{
  "jurisdiction": "us",
  "document_title": "NIST AI RMF 原文（英語・全文）＋ 日本語対訳",
  "generated_at": "2026-09-23",
  "source": {
    "publisher": "米国国立標準技術研究所（NIST）",
    "official_url": "https://doi.org/10.6028/NIST.AI.100-1",
    "note": "NIST AI 100-1（AI RMF 1.0）2023年1月公表。表はレイアウトの都合上、原文と完全に同一の体裁では再現できていない箇所があります。"
  },
  "original_language": "en",
  "translation_language": "ja",
  "translation_disclaimer": "日本語訳はAIによる参考訳であり、公式訳ではありません。",
  "sections": [
    {
      "id": "usg-link",
      "heading": "公式情報源",
      "blocks": [
        {
          "type": "note",
          "text": "本タブの英語原文は、NIST公表のPDF（NIST AI 100-1）をユーザー提供ファイルから機械的にテキスト化・再構成したものです。日本語訳はAIによる参考訳であり、公式訳ではありません。表（GOVERN/MAP/MEASURE/MANAGEの詳細カテゴリ表等）はレイアウトの都合上、原文と完全に同一の体裁では再現できていない箇所があります。正式な実務利用の際は、必ず下記の公式ソース（PDF）でご確認ください。\nNIST公式サイト：AI RMF 1.0（PDF）\nNIST AI RMF Knowledge Base：AI RMF Core",
          "links": [
            {
              "text": "NIST公式サイト：AI RMF 1.0（PDF）",
              "href": "https://doi.org/10.6028/NIST.AI.100-1"
            },
            {
              "text": "NIST AI RMF Knowledge Base：AI RMF Core",
              "href": "https://airc.nist.gov/airmf-resources/airmf/5-sec-core/"
            }
          ]
        }
      ]
    },
    {
      "id": "usg-executive_summary",
      "heading": "Executive Summary",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "Executive Summary Artificial intelligence (AI) technologies have significant potential to transform society and people’s lives – from commerce and health to transportation and cybersecurity to the environment and our planet. AI technologies can drive inclusive economic growth and support scientific advancements that improve the conditions of our world. AI technologies, however, also pose risks that can negatively impact individuals, groups, organizations, communities, society, the environment, and the planet. Like risks for other types of technology, AI risks can emerge in a variety of ways and can be characterized as long- or short-term, highor low-probability, systemic or localized, and high- or low-impact.",
          "translation_text": "エグゼクティブサマリー 人工知能（AI）技術は、商取引や医療からモビリティやサイバーセキュリティ、そして環境や地球に至るまで、社会と人々の生活を一変させる大きな可能性を有している。AI技術は、包摂的な経済成長を推進し、世界の状況を改善する科学的進歩を後押しすることができる。しかしながら、AI技術は、個人、集団、組織、コミュニティ、社会、環境、そして地球に対して負の影響を及ぼしうるリスクも併せ持つ。他の種類の技術に伴うリスクと同様に、AIリスクは様々な形で顕在化し得るものであり、長期的か短期的か、高確率か低確率か、システム的か局所的か、また影響が大きいか小さいかによって特徴づけることができる。",
          "translation_html": "エグゼクティブサマリー 人工知能（AI）技術は、商取引や医療からモビリティやサイバーセキュリティ、そして環境や地球に至るまで、社会と人々の生活を一変させる大きな可能性を有している。AI技術は、包摂的な経済成長を推進し、世界の状況を改善する科学的進歩を後押しすることができる。しかしながら、AI技術は、個人、集団、組織、コミュニティ、社会、環境、そして地球に対して負の影響を及ぼしうるリスクも併せ持つ。他の種類の技術に伴うリスクと同様に、AIリスクは様々な形で顕在化し得るものであり、長期的か短期的か、高確率か低確率か、システム的か局所的か、また影響が大きいか小さいかによって特徴づけることができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The AI RMF refers to an AI system as an engineered or machine-based system that can, for a given set of objectives, generate outputs such as predictions, recommendations, or decisions influencing real or virtual environments. AI systems are designed to operate with varying levels of autonomy (Adapted from: OECD Recommendation on AI:2019; ISO / IEC 22989:2022).",
          "translation_text": "AI RMFにおいて、AIシステムとは、所与の一連の目的に対して、現実または仮想の環境に影響を及ぼす予測、推奨、または意思決定などの出力を生成することができる、エンジニアリングされた機械ベースのシステムを指す。AIシステムは様々な水準の自律性をもって動作するように設計されている（出典：OECD Recommendation on AI:2019、ISO/IEC 22989:2022を改変）。",
          "translation_html": "AI RMFにおいて、AIシステムとは、所与の一連の目的に対して、現実または仮想の環境に影響を及ぼす予測、推奨、または意思決定などの出力を生成することができる、エンジニアリングされた機械ベースのシステムを指す。AIシステムは様々な水準の自律性をもって動作するように設計されている（出典：OECD Recommendation on AI:2019、ISO/IEC 22989:2022を改変）。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "While there are myriad standards and best practices to help organizations mitigate the risks of traditional software or information-based systems, the risks posed by AI systems are in many ways unique (See Appendix B). AI systems, for example, may be trained on data that can change over time, sometimes significantly and unexpectedly, affecting system functionality and trustworthiness in ways that are hard to understand. AI systems and the contexts in which they are deployed are frequently complex, making it difficult to detect and respond to failures when they occur. AI systems are inherently socio-technical in nature, meaning they are influenced by societal dynamics and human behavior. AI risks – and benefits – can emerge from the interplay of technical aspects combined with societal factors related to how a system is used, its interactions with other AI systems, who operates it, and the social context in which it is deployed.",
          "translation_text": "従来のソフトウェアや情報ベースのシステムのリスクを組織が低減する助けとなる標準やベストプラクティスは数多く存在するが、AIシステムがもたらすリスクは多くの点で独自のものである（付録B参照）。例えば、AIシステムは時間とともに変化し得るデータ、時には大きく予期せぬ形で変化するデータで訓練される場合があり、これがシステムの機能性や信頼性に、理解しにくい形で影響を及ぼすことがある。AIシステムおよびそれが展開される文脈はしばしば複雑であり、そのため障害が発生した際にそれを検知し対応することが難しい場合がある。AIシステムは本質的に社会技術的な性質を持ち、社会的な力学や人間の行動の影響を受ける。AIのリスクおよび便益は、技術的側面と、システムの使用方法、他のAIシステムとの相互作用、運用者、および展開される社会的文脈に関連する社会的要因との相互作用から生じ得る。",
          "translation_html": "従来のソフトウェアや情報ベースのシステムのリスクを組織が低減する助けとなる標準やベストプラクティスは数多く存在するが、AIシステムがもたらすリスクは多くの点で独自のものである（付録B参照）。例えば、AIシステムは時間とともに変化し得るデータ、時には大きく予期せぬ形で変化するデータで訓練される場合があり、これがシステムの機能性や信頼性に、理解しにくい形で影響を及ぼすことがある。AIシステムおよびそれが展開される文脈はしばしば複雑であり、そのため障害が発生した際にそれを検知し対応することが難しい場合がある。AIシステムは本質的に社会技術的な性質を持ち、社会的な力学や人間の行動の影響を受ける。AIのリスクおよび便益は、技術的側面と、システムの使用方法、他のAIシステムとの相互作用、運用者、および展開される社会的文脈に関連する社会的要因との相互作用から生じ得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "These risks make AI a uniquely challenging technology to deploy and utilize both for organizations and within society. Without proper controls, AI systems can amplify, perpetuate, or exacerbate inequitable or undesirable outcomes for individuals and communities. With proper controls, AI systems can mitigate and manage inequitable outcomes.",
          "translation_text": "こうしたリスクにより、AIは組織にとっても社会にとっても、導入・活用が特有の困難を伴う技術となっている。適切な管理策がなければ、AIシステムは個人やコミュニティにとって不公平または望ましくない結果を増幅、永続化、あるいは悪化させる可能性がある。適切な管理策があれば、AIシステムは不公平な結果を緩和し管理することができる。",
          "translation_html": "こうしたリスクにより、AIは組織にとっても社会にとっても、導入・活用が特有の困難を伴う技術となっている。適切な管理策がなければ、AIシステムは個人やコミュニティにとって不公平または望ましくない結果を増幅、永続化、あるいは悪化させる可能性がある。適切な管理策があれば、AIシステムは不公平な結果を緩和し管理することができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI risk management is a key component of responsible development and use of AI systems. Responsible AI practices can help align the decisions about AI system design, development, and uses with intended aim and values. Core concepts in responsible AI emphasize human centricity, social responsibility, and sustainability. AI risk management can drive responsible uses and practices by prompting organizations and their internal teams who design, develop, and deploy AI to think more critically about context and potential or unexpected negative and positive impacts. Understanding and managing the risks of AI systems will help to enhance trustworthiness, and in turn, cultivate public trust.",
          "translation_text": "AIリスクマネジメントは、AIシステムの責任ある開発と利用における重要な要素である。責任あるAIの実践は、AIシステムの設計、開発、利用に関する意思決定を、意図した目的と価値観に整合させる助けとなり得る。責任あるAIにおける中核的な概念は、人間中心性、社会的責任、そして持続可能性を強調する。AIリスクマネジメントは、AIを設計、開発、展開する組織およびその内部チームに対し、文脈や、予期せぬものも含む正負両方の潜在的影響についてより批判的に検討するよう促すことで、責任ある利用と実践を推進することができる。AIシステムのリスクを理解し管理することは、信頼性の向上に寄与し、ひいては社会的な信頼の醸成につながる。",
          "translation_html": "AIリスクマネジメントは、AIシステムの責任ある開発と利用における重要な要素である。責任あるAIの実践は、AIシステムの設計、開発、利用に関する意思決定を、意図した目的と価値観に整合させる助けとなり得る。責任あるAIにおける中核的な概念は、人間中心性、社会的責任、そして持続可能性を強調する。AIリスクマネジメントは、AIを設計、開発、展開する組織およびその内部チームに対し、文脈や、予期せぬものも含む正負両方の潜在的影響についてより批判的に検討するよう促すことで、責任ある利用と実践を推進することができる。AIシステムのリスクを理解し管理することは、信頼性の向上に寄与し、ひいては社会的な信頼の醸成につながる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Social responsibility can refer to the organization’s responsibility “for the impacts of its decisions and activities on society and the environment through transparent and ethical behavior” (ISO 26000:2010). Sustainability refers to the “state of the global system, including environmental, social, and economic aspects, in which the needs of the present are met without compromising the ability of future generations to meet their own needs” (ISO / IEC TR 24368:2022). Responsible AI is meant to result in technology that is also equitable and accountable. The expectation is that organizational practices are carried out in accord with “professional responsibility,” defined by ISO as an approach that “aims to ensure that professionals who design, develop, or deploy AI systems and applications or AI-based products or systems, recognize their unique position to exert influence on people, society, and the future of AI” (ISO / IEC TR 24368:2022).",
          "translation_text": "社会的責任とは、組織が「透明かつ倫理的な行動を通じて、自らの意思決定および活動が社会および環境に及ぼす影響」に対して負う責任を指す場合がある（ISO 26000:2010）。持続可能性とは、「環境的、社会的、経済的側面を含む地球規模システムの状態であって、現在の世代のニーズを満たしつつ、将来の世代が自らのニーズを満たす能力を損なわない状態」を指す（ISO/IEC TR 24368:2022）。責任あるAIは、公平でアカウンタブルな技術をもたらすことを意図している。組織の実践は、ISOが定義する「専門職としての責任」、すなわち「AIシステムやアプリケーション、またはAIベースの製品やシステムを設計、開発、または展開する専門家が、人々、社会、そしてAIの未来に影響を及ぼしうる自らの特別な立場を認識すること」を目指すアプローチに沿って行われることが期待される（ISO/IEC TR 24368:2022）。",
          "translation_html": "社会的責任とは、組織が「透明かつ倫理的な行動を通じて、自らの意思決定および活動が社会および環境に及ぼす影響」に対して負う責任を指す場合がある（ISO 26000:2010）。持続可能性とは、「環境的、社会的、経済的側面を含む地球規模システムの状態であって、現在の世代のニーズを満たしつつ、将来の世代が自らのニーズを満たす能力を損なわない状態」を指す（ISO/IEC TR 24368:2022）。責任あるAIは、公平でアカウンタブルな技術をもたらすことを意図している。組織の実践は、ISOが定義する「専門職としての責任」、すなわち「AIシステムやアプリケーション、またはAIベースの製品やシステムを設計、開発、または展開する専門家が、人々、社会、そしてAIの未来に影響を及ぼしうる自らの特別な立場を認識すること」を目指すアプローチに沿って行われることが期待される（ISO/IEC TR 24368:2022）。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "As directed by the National Artificial Intelligence Initiative Act of 2020 (P.L. 116-283), the goal of the AI RMF is to offer a resource to the organizations designing, developing, deploying, or using AI systems to help manage the many risks of AI and promote trustworthy and responsible development and use of AI systems. The Framework is intended to be voluntary, rights-preserving, non-sector-specific, and use-case agnostic, providing flexibility to organizations of all sizes and in all sectors and throughout society to implement the approaches in the Framework.",
          "translation_text": "2020年国家人工知能イニシアチブ法（公法116-283）の指示に基づき、AI RMFの目標は、AIシステムを設計、開発、展開、または利用する組織に対し、AIの多様なリスクを管理し、AIシステムの信頼できる責任ある開発と利用を促進するための資源を提供することである。本フレームワークは、任意であり、権利を保護し、特定のセクターに限定されず、ユースケースを問わないものであることを意図しており、あらゆる規模、あらゆるセクター、そして社会全体の組織が本フレームワークのアプローチを実施できるよう、柔軟性を提供する。",
          "translation_html": "2020年国家人工知能イニシアチブ法（公法116-283）の指示に基づき、AI RMFの目標は、AIシステムを設計、開発、展開、または利用する組織に対し、AIの多様なリスクを管理し、AIシステムの信頼できる責任ある開発と利用を促進するための資源を提供することである。本フレームワークは、任意であり、権利を保護し、特定のセクターに限定されず、ユースケースを問わないものであることを意図しており、あらゆる規模、あらゆるセクター、そして社会全体の組織が本フレームワークのアプローチを実施できるよう、柔軟性を提供する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The Framework is designed to equip organizations and individuals – referred to here as AI actors – with approaches that increase the trustworthiness of AI systems, and to help foster the responsible design, development, deployment, and use of AI systems over time. AI actors are defined by the Organisation for Economic Co-operation and Development (OECD) as “those who play an active role in the AI system lifecycle, including organizations and individuals that deploy or operate AI” [OECD (2019) Artificial Intelligence in Society—OECD iLibrary] (See Appendix A).",
          "translation_text": "本フレームワークは、組織および個人（本書では「AIアクター」と呼ぶ）に対し、AIシステムの信頼性を高めるアプローチを提供し、AIシステムの責任ある設計、開発、展開、および利用を長期にわたって促進する助けとなるよう設計されている。AIアクターは、経済協力開発機構（OECD）により、「AIシステムのライフサイクルにおいて能動的な役割を果たす者、すなわちAIを展開または運用する組織および個人を含む」と定義されている〔OECD（2019）Artificial Intelligence in Society — OECD iLibrary〕（付録A参照）。",
          "translation_html": "本フレームワークは、組織および個人（本書では「AIアクター」と呼ぶ）に対し、AIシステムの信頼性を高めるアプローチを提供し、AIシステムの責任ある設計、開発、展開、および利用を長期にわたって促進する助けとなるよう設計されている。AIアクターは、経済協力開発機構（OECD）により、「AIシステムのライフサイクルにおいて能動的な役割を果たす者、すなわちAIを展開または運用する組織および個人を含む」と定義されている〔OECD（2019）Artificial Intelligence in Society — OECD iLibrary〕（付録A参照）。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The AI RMF is intended to be practical, to adapt to the AI landscape as AI technologies continue to develop, and to be operationalized by organizations in varying degrees and capacities so society can benefit from AI while also being protected from its potential harms.",
          "translation_text": "AI RMFは、実用的であること、AI技術の発展に伴いAIの状況に適応できること、そして組織が様々な程度や能力に応じて運用できることを意図しており、これにより社会がAIから恩恵を受けると同時に、その潜在的な害から保護されるようにすることを目指している。",
          "translation_html": "AI RMFは、実用的であること、AI技術の発展に伴いAIの状況に適応できること、そして組織が様々な程度や能力に応じて運用できることを意図しており、これにより社会がAIから恩恵を受けると同時に、その潜在的な害から保護されるようにすることを目指している。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The Framework and supporting resources will be updated, expanded, and improved based on evolving technology, the standards landscape around the world, and AI community experience and feedback. NIST will continue to align the AI RMF and related guidance with applicable international standards, guidelines, and practices. As the AI RMF is put into use, additional lessons will be learned to inform future updates and additional resources.",
          "translation_text": "本フレームワークおよびそれを支える資料は、進化する技術、世界各国における標準の動向、そしてAIコミュニティの経験やフィードバックに基づき、更新、拡充、改善されていく。NISTは、AI RMFおよび関連ガイダンスを、適用可能な国際標準、ガイドライン、実践と引き続き整合させていく。AI RMFが実際に運用される中で、さらなる知見が得られ、今後の更新や追加の資料に反映されていく。",
          "translation_html": "本フレームワークおよびそれを支える資料は、進化する技術、世界各国における標準の動向、そしてAIコミュニティの経験やフィードバックに基づき、更新、拡充、改善されていく。NISTは、AI RMFおよび関連ガイダンスを、適用可能な国際標準、ガイドライン、実践と引き続き整合させていく。AI RMFが実際に運用される中で、さらなる知見が得られ、今後の更新や追加の資料に反映されていく。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The Framework is divided into two parts. Part 1 discusses how organizations can frame the risks related to AI and describes the intended audience. Next, AI risks and trustworthiness are analyzed, outlining the characteristics of trustworthy AI systems, which include valid and reliable, safe, secure and resilient, accountable and transparent, explainable and interpretable, privacy enhanced, and fair with their harmful biases managed.",
          "translation_text": "本フレームワークは2つの部分から構成される。パート1では、組織がAIに関連するリスクをどのように捉えるべきかを論じ、想定される読者について説明する。続いて、AIリスクと信頼性が分析され、信頼できるAIシステムの特徴が概説される。これには、妥当性と信頼性、安全性、セキュリティとレジリエンス、アカウンタビリティと透明性、説明可能性と解釈可能性、プライバシーへの配慮、そして有害なバイアスが管理された公平性が含まれる。",
          "translation_html": "本フレームワークは2つの部分から構成される。パート1では、組織がAIに関連するリスクをどのように捉えるべきかを論じ、想定される読者について説明する。続いて、AIリスクと信頼性が分析され、信頼できるAIシステムの特徴が概説される。これには、妥当性と信頼性、安全性、セキュリティとレジリエンス、アカウンタビリティと透明性、説明可能性と解釈可能性、プライバシーへの配慮、そして有害なバイアスが管理された公平性が含まれる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Part 2 comprises the “Core” of the Framework. It describes four specific functions to help organizations address the risks of AI systems in practice. These functions – GOVERN, MAP , MEASURE , and MANAGE – are broken down further into categories and subcategories. While GOVERN applies to all stages of organizations’ AI risk management processes and procedures, the MAP, MEASURE, and MANAGE functions can be applied in AI system-specific contexts and at specific stages of the AI lifecycle.",
          "translation_text": "パート2は本フレームワークの「コア」で構成される。ここでは、組織が実務においてAIシステムのリスクに対処するための助けとなる4つの具体的な機能が説明される。これらの機能——GOVERN（ガバナンス）、MAP（マッピング）、MEASURE（測定）、MANAGE（管理）——は、さらにカテゴリーおよびサブカテゴリーに分解される。GOVERNは組織のAIリスクマネジメントのプロセスと手続きのあらゆる段階に適用されるのに対し、MAP、MEASURE、MANAGEの各機能は、AIシステムに固有の文脈およびAIライフサイクルの特定の段階において適用され得る。",
          "translation_html": "パート2は本フレームワークの「コア」で構成される。ここでは、組織が実務においてAIシステムのリスクに対処するための助けとなる4つの具体的な機能が説明される。これらの機能——GOVERN（ガバナンス）、MAP（マッピング）、MEASURE（測定）、MANAGE（管理）——は、さらにカテゴリーおよびサブカテゴリーに分解される。GOVERNは組織のAIリスクマネジメントのプロセスと手続きのあらゆる段階に適用されるのに対し、MAP、MEASURE、MANAGEの各機能は、AIシステムに固有の文脈およびAIライフサイクルの特定の段階において適用され得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Additional resources related to the Framework are included in the AI RMF Playbook, which is available via the NIST AI RMF website: https://www.nist.gov/itl/ai-risk-management-framework.",
          "translation_text": "本フレームワークに関連する追加の資料は、AI RMFプレイブックに含まれており、NIST AI RMFのウェブサイトから入手できる。 https://www.nist.gov/itl/ai-risk-management-framework",
          "translation_html": "本フレームワークに関連する追加の資料は、AI RMFプレイブックに含まれており、NIST AI RMFのウェブサイトから入手できる。 https://www.nist.gov/itl/ai-risk-management-framework"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Development of the AI RMF by NIST in collaboration with the private and public sectors is directed and consistent with its broader AI efforts called for by the National AI Initiative Act of 2020, the National Security Commission on Artificial Intelligence recommendations, and the Plan for Federal Engagement in Developing Technical Standards and Related Tools. Engagement with the AI community during this Framework’s development – via responses to a formal Request for Information, three widely attended workshops, public comments on a concept paper and two drafts of the Framework, discussions at multiple public forums, and many small group meetings – has informed development of the AI RMF 1.0 as well as AI research and development and evaluation conducted by NIST and others. Priority research and additional guidance that will enhance this Framework will be captured in an associated AI Risk Management Framework Roadmap to which NIST and the broader community can contribute.",
          "translation_text": "NISTが官民セクターと協力して行うAI RMFの策定は、2020年国家AIイニシアチブ法、国家人工知能安全保障委員会の勧告、および技術標準関連ツールの策定に関する連邦の関与計画によって求められている、NISTのより広範なAIへの取り組みに沿って、またそれと整合する形で指示されたものである。本フレームワークの策定過程におけるAIコミュニティとの関わり——正式な情報提供依頼（RFI）への回答、広く参加を得た3回のワークショップ、コンセプトペーパーおよびフレームワークの2つの草案に対するパブリックコメント、複数の公開フォーラムでの議論、そして数多くの少人数会合を通じたもの——は、AI RMF 1.0の策定、およびNISTその他による研究開発と評価に反映されている。本フレームワークを充実させる優先研究課題および追加のガイダンスは、NISTおよびより広いコミュニティが貢献できる関連文書であるAIリスクマネジメントフレームワーク・ロードマップに取りまとめられる予定である。",
          "translation_html": "NISTが官民セクターと協力して行うAI RMFの策定は、2020年国家AIイニシアチブ法、国家人工知能安全保障委員会の勧告、および技術標準関連ツールの策定に関する連邦の関与計画によって求められている、NISTのより広範なAIへの取り組みに沿って、またそれと整合する形で指示されたものである。本フレームワークの策定過程におけるAIコミュニティとの関わり——正式な情報提供依頼（RFI）への回答、広く参加を得た3回のワークショップ、コンセプトペーパーおよびフレームワークの2つの草案に対するパブリックコメント、複数の公開フォーラムでの議論、そして数多くの少人数会合を通じたもの——は、AI RMF 1.0の策定、およびNISTその他による研究開発と評価に反映されている。本フレームワークを充実させる優先研究課題および追加のガイダンスは、NISTおよびより広いコミュニティが貢献できる関連文書であるAIリスクマネジメントフレームワーク・ロードマップに取りまとめられる予定である。"
        }
      ]
    },
    {
      "id": "usg-s1_framing_risk",
      "heading": "1. Framing Risk",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "1.     Framing Risk AI risk management offers a path to minimize potential negative impacts of AI systems, such as threats to civil liberties and rights, while also providing opportunities to maximize positive impacts. Addressing, documenting, and managing AI risks and potential negative impacts effectively can lead to more trustworthy AI systems.",
          "translation_text": "1.     リスクの捉え方 AIリスクマネジメントは、市民的自由や権利への脅威など、AIシステムがもたらしうる負の影響を最小化する道筋を提供すると同時に、正の影響を最大化する機会をもたらす。AIリスクおよび潜在的な負の影響に効果的に対処し、文書化し、管理することは、より信頼できるAIシステムの実現につながり得る。",
          "translation_html": "1.     リスクの捉え方 AIリスクマネジメントは、市民的自由や権利への脅威など、AIシステムがもたらしうる負の影響を最小化する道筋を提供すると同時に、正の影響を最大化する機会をもたらす。AIリスクおよび潜在的な負の影響に効果的に対処し、文書化し、管理することは、より信頼できるAIシステムの実現につながり得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1.1     Understanding and Addressing Risks, Impacts, and Harms",
          "translation_text": "1.1     リスク、影響、および害の理解と対処",
          "translation_html": "1.1     リスク、影響、および害の理解と対処"
        },
        {
          "type": "bilingual_paragraph",
          "original": "In the context of the AI RMF, risk refers to the composite measure of an event’s probability of occurring and the magnitude or degree of the consequences of the corresponding event. The impacts, or consequences, of AI systems can be positive, negative, or both and can result in opportunities or threats (Adapted from: ISO 31000:2018). When considering the negative impact of a potential event, risk is a function of 1) the negative impact, or magnitude of harm, that would arise if the circumstance or event occurs and 2) the likelihood of occurrence (Adapted from: OMB Circular A-130:2016). Negative impact or harm can be experienced by individuals, groups, communities, organizations, society, the environment, and the planet.",
          "translation_text": "AI RMFの文脈において、リスクとは、ある事象が発生する確率と、それに対応する結果の大きさまたは程度とを組み合わせた複合的な尺度を指す。AIシステムの影響、すなわち結果は、正または負、あるいはその両方であり得るものであり、機会にも脅威にもなり得る（出典：ISO 31000:2018を改変）。ある事象が生じうる負の影響を検討する際、リスクは、(1) その状況または事象が発生した場合に生じる負の影響（害の大きさ）と、(2) その発生の可能性という2つの要素の関数である（出典：OMB Circular A-130:2016を改変）。負の影響または害は、個人、集団、コミュニティ、組織、社会、環境、そして地球によって被られる可能性がある。",
          "translation_html": "AI RMFの文脈において、リスクとは、ある事象が発生する確率と、それに対応する結果の大きさまたは程度とを組み合わせた複合的な尺度を指す。AIシステムの影響、すなわち結果は、正または負、あるいはその両方であり得るものであり、機会にも脅威にもなり得る（出典：ISO 31000:2018を改変）。ある事象が生じうる負の影響を検討する際、リスクは、(1) その状況または事象が発生した場合に生じる負の影響（害の大きさ）と、(2) その発生の可能性という2つの要素の関数である（出典：OMB Circular A-130:2016を改変）。負の影響または害は、個人、集団、コミュニティ、組織、社会、環境、そして地球によって被られる可能性がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "“Risk management refers to coordinated activities to direct and control an organization with regard to risk” (Source: ISO 31000:2018).",
          "translation_text": "「リスクマネジメントとは、リスクに関して組織を指揮し、管理するための協調的な活動を指す」（出典：ISO 31000:2018）。",
          "translation_html": "「リスクマネジメントとは、リスクに関して組織を指揮し、管理するための協調的な活動を指す」（出典：ISO 31000:2018）。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "While risk management processes generally address negative impacts, this Framework offers approaches to minimize anticipated negative impacts of AI systems and identify opportunities to maximize positive impacts. Effectively managing the risk of potential harms could lead to more trustworthy AI systems and unleash potential benefits to people (individuals, communities, and society), organizations, and systems/ecosystems. Risk management can enable AI developers and users to understand impacts and account for the inherent limitations and uncertainties in their models and systems, which in turn can improve overall system performance and trustworthiness and the likelihood that AI technologies will be used in ways that are beneficial.",
          "translation_text": "リスクマネジメントのプロセスは一般に負の影響に対処するものであるが、本フレームワークは、AIシステムの予想される負の影響を最小化し、正の影響を最大化する機会を特定するためのアプローチを提供する。潜在的な害のリスクを効果的に管理することは、より信頼できるAIシステムの実現につながり、人々（個人、コミュニティ、社会）、組織、そしてシステム／エコシステムにとっての潜在的な便益を引き出すことができる。リスクマネジメントは、AIの開発者や利用者が影響を理解し、自らのモデルやシステムに内在する限界や不確実性を考慮に入れることを可能にし、それによりシステム全体の性能と信頼性、そしてAI技術が有益な形で利用される可能性を高めることができる。",
          "translation_html": "リスクマネジメントのプロセスは一般に負の影響に対処するものであるが、本フレームワークは、AIシステムの予想される負の影響を最小化し、正の影響を最大化する機会を特定するためのアプローチを提供する。潜在的な害のリスクを効果的に管理することは、より信頼できるAIシステムの実現につながり、人々（個人、コミュニティ、社会）、組織、そしてシステム／エコシステムにとっての潜在的な便益を引き出すことができる。リスクマネジメントは、AIの開発者や利用者が影響を理解し、自らのモデルやシステムに内在する限界や不確実性を考慮に入れることを可能にし、それによりシステム全体の性能と信頼性、そしてAI技術が有益な形で利用される可能性を高めることができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The AI RMF is designed to address new risks as they emerge. This flexibility is particularly important where impacts are not easily foreseeable and applications are evolving. While some AI risks and benefits are well-known, it can be challenging to assess negative impacts and the degree of harms. Figure 1 provides examples of potential harms that can be related to AI systems.",
          "translation_text": "AI RMFは、新たに生じるリスクに対応できるよう設計されている。この柔軟性は、影響を容易に予見できない場合や、用途が発展し続けている場合に特に重要である。一部のAIリスクや便益はよく知られているものの、負の影響とその害の程度を評価することは難しい場合がある。図1に、AIシステムに関連しうる潜在的な害の例を示す。",
          "translation_html": "AI RMFは、新たに生じるリスクに対応できるよう設計されている。この柔軟性は、影響を容易に予見できない場合や、用途が発展し続けている場合に特に重要である。一部のAIリスクや便益はよく知られているものの、負の影響とその害の程度を評価することは難しい場合がある。図1に、AIシステムに関連しうる潜在的な害の例を示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI risk management efforts should consider that humans may assume that AI systems work – and work well – in all settings. For example, whether correct or not, AI systems are often perceived as being more objective than humans or as offering greater capabilities than general software.",
          "translation_text": "AIリスクマネジメントの取り組みにおいては、人間がAIシステムはあらゆる状況で機能する——それもうまく機能する——と思い込む可能性があることを考慮すべきである。例えば、正しいかどうかにかかわらず、AIシステムは人間よりも客観的であるとか、一般的なソフトウェアより優れた能力を持つと認識されることが多い。",
          "translation_html": "AIリスクマネジメントの取り組みにおいては、人間がAIシステムはあらゆる状況で機能する——それもうまく機能する——と思い込む可能性があることを考慮すべきである。例えば、正しいかどうかにかかわらず、AIシステムは人間よりも客観的であるとか、一般的なソフトウェアより優れた能力を持つと認識されることが多い。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Fig. 1. Examples of potential harms related to AI systems. Trustworthy AI systems and their responsible use can mitigate negative risks and contribute to benefits for people, organizations, and ecosystems.",
          "translation_text": "図1. AIシステムに関連しうる潜在的な害の例。信頼できるAIシステムおよびその責任ある利用は、負のリスクを緩和し、人々、組織、エコシステムにとっての便益に寄与することができる。",
          "translation_html": "図1. AIシステムに関連しうる潜在的な害の例。信頼できるAIシステムおよびその責任ある利用は、負のリスクを緩和し、人々、組織、エコシステムにとっての便益に寄与することができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1.2     Challenges for AI Risk Management",
          "translation_text": "1.2     AIリスクマネジメントにおける課題",
          "translation_html": "1.2     AIリスクマネジメントにおける課題"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Several challenges are described below. They should be taken into account when managing risks in pursuit of AI trustworthiness.",
          "translation_text": "以下にいくつかの課題を説明する。AIの信頼性を追求してリスクを管理する際には、これらを考慮に入れるべきである。",
          "translation_html": "以下にいくつかの課題を説明する。AIの信頼性を追求してリスクを管理する際には、これらを考慮に入れるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1.2.1    Risk Measurement",
          "translation_text": "1.2.1    リスクの測定",
          "translation_html": "1.2.1    リスクの測定"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI risks or failures that are not well-defined or adequately understood are difficult to measure quantitatively or qualitatively. The inability to appropriately measure AI risks does not imply that an AI system necessarily poses either a high or low risk. Some risk measurement challenges include:",
          "translation_text": "十分に定義されていない、あるいは十分に理解されていないAIリスクや障害は、定量的または定性的に測定することが難しい。AIリスクを適切に測定できないからといって、そのAIシステムが必然的に高リスクまたは低リスクであることを意味するわけではない。リスク測定における課題には、以下のようなものがある。",
          "translation_html": "十分に定義されていない、あるいは十分に理解されていないAIリスクや障害は、定量的または定性的に測定することが難しい。AIリスクを適切に測定できないからといって、そのAIシステムが必然的に高リスクまたは低リスクであることを意味するわけではない。リスク測定における課題には、以下のようなものがある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risks related to third-party software, hardware, and data: Third-party data or systems can accelerate research and development and facilitate technology transition. They also may complicate risk measurement. Risk can emerge both from third-party data, software or hardware itself and how it is used. Risk metrics or methodologies used by the organization developing the AI system may not align with the risk metrics or methodologies uses by the organization deploying or operating the system. Also, the organization developing the AI system may not be transparent about the risk metrics or methodologies it used. Risk measurement and management can be complicated by how customers use or integrate thirdparty data or systems into AI products or services, particularly without sufficient internal governance structures and technical safeguards. Regardless, all parties and AI actors should manage risk in the AI systems they develop, deploy, or use as standalone or integrated components.",
          "translation_text": "サードパーティ製のソフトウェア、ハードウェア、およびデータに関するリスク：サードパーティのデータやシステムは、研究開発を加速し、技術移転を促進し得る。一方で、これらはリスク測定を複雑化させる可能性もある。リスクは、サードパーティのデータ、ソフトウェア、ハードウェアそのものからも、またそれらがどのように使用されるかからも生じ得る。AIシステムを開発する組織が用いるリスク指標や手法は、そのシステムを展開または運用する組織が用いるリスク指標や手法と一致しない場合がある。また、AIシステムを開発する組織が、自らが用いたリスク指標や手法について透明性を確保していない場合もある。リスクの測定と管理は、十分な内部ガバナンス体制や技術的な安全策がないまま、顧客がサードパーティのデータやシステムをAI製品やサービスにどのように利用・統合するかによって複雑化することがある。いずれにせよ、すべての関係者およびAIアクターは、自らが単独の構成要素として、または統合された構成要素として開発、展開、または利用するAIシステムにおいて、リスクを管理すべきである。",
          "translation_html": "サードパーティ製のソフトウェア、ハードウェア、およびデータに関するリスク：サードパーティのデータやシステムは、研究開発を加速し、技術移転を促進し得る。一方で、これらはリスク測定を複雑化させる可能性もある。リスクは、サードパーティのデータ、ソフトウェア、ハードウェアそのものからも、またそれらがどのように使用されるかからも生じ得る。AIシステムを開発する組織が用いるリスク指標や手法は、そのシステムを展開または運用する組織が用いるリスク指標や手法と一致しない場合がある。また、AIシステムを開発する組織が、自らが用いたリスク指標や手法について透明性を確保していない場合もある。リスクの測定と管理は、十分な内部ガバナンス体制や技術的な安全策がないまま、顧客がサードパーティのデータやシステムをAI製品やサービスにどのように利用・統合するかによって複雑化することがある。いずれにせよ、すべての関係者およびAIアクターは、自らが単独の構成要素として、または統合された構成要素として開発、展開、または利用するAIシステムにおいて、リスクを管理すべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Tracking emergent risks: Organizations’ risk management efforts will be enhanced by identifying and tracking emergent risks and considering techniques for measuring them.",
          "translation_text": "新たに生じるリスクの追跡：組織のリスクマネジメントの取り組みは、新たに生じるリスクを特定・追跡し、それらを測定する手法を検討することによって強化される。",
          "translation_html": "新たに生じるリスクの追跡：組織のリスクマネジメントの取り組みは、新たに生じるリスクを特定・追跡し、それらを測定する手法を検討することによって強化される。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI system impact assessment approaches can help AI actors understand potential impacts or harms within specific contexts.",
          "translation_text": "AIシステムの影響評価のアプローチは、AIアクターが特定の文脈における潜在的な影響や害を理解する助けとなり得る。",
          "translation_html": "AIシステムの影響評価のアプローチは、AIアクターが特定の文脈における潜在的な影響や害を理解する助けとなり得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Availability of reliable metrics: The current lack of consensus on robust and verifiable measurement methods for risk and trustworthiness, and applicability to different AI use cases, is an AI risk measurement challenge. Potential pitfalls when seeking to measure negative risk or harms include the reality that development of metrics is often an institutional endeavor and may inadvertently reflect factors unrelated to the underlying impact. In addition, measurement approaches can be oversimplified, gamed, lack critical nuance, become relied upon in unexpected ways, or fail to account for differences in affected groups and contexts.",
          "translation_text": "信頼できる指標の入手可能性：リスクおよび信頼性についての堅牢で検証可能な測定手法や、それらの様々なAIユースケースへの適用可能性について、現時点でコンセンサスが得られていないことは、AIリスク測定上の課題である。負のリスクや害を測定しようとする際の潜在的な落とし穴としては、指標の策定がしばしば組織的な営みであり、根底にある影響とは無関係な要因を意図せず反映してしまう可能性があるという現実が挙げられる。加えて、測定アプローチが過度に単純化されたり、恣意的に操作されたり、重要なニュアンスを欠いたり、予期しない形で過度に依存されるようになったり、影響を受ける集団や文脈の違いを考慮できなかったりすることがある。",
          "translation_html": "信頼できる指標の入手可能性：リスクおよび信頼性についての堅牢で検証可能な測定手法や、それらの様々なAIユースケースへの適用可能性について、現時点でコンセンサスが得られていないことは、AIリスク測定上の課題である。負のリスクや害を測定しようとする際の潜在的な落とし穴としては、指標の策定がしばしば組織的な営みであり、根底にある影響とは無関係な要因を意図せず反映してしまう可能性があるという現実が挙げられる。加えて、測定アプローチが過度に単純化されたり、恣意的に操作されたり、重要なニュアンスを欠いたり、予期しない形で過度に依存されるようになったり、影響を受ける集団や文脈の違いを考慮できなかったりすることがある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Approaches for measuring impacts on a population work best if they recognize that contexts matter, that harms may affect varied groups or sub-groups differently, and that communities or other sub-groups who may be harmed are not always direct users of a system.",
          "translation_text": "集団への影響を測定するアプローチは、文脈が重要であること、害が様々な集団やサブグループに異なる形で及びうること、そして害を受ける可能性のあるコミュニティやその他のサブグループが必ずしもシステムの直接的な利用者とは限らないことを認識している場合に、最も効果的に機能する。",
          "translation_html": "集団への影響を測定するアプローチは、文脈が重要であること、害が様々な集団やサブグループに異なる形で及びうること、そして害を受ける可能性のあるコミュニティやその他のサブグループが必ずしもシステムの直接的な利用者とは限らないことを認識している場合に、最も効果的に機能する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risk at different stages of the AI lifecycle: Measuring risk at an earlier stage in the AI lifecycle may yield different results than measuring risk at a later stage; some risks may be latent at a given point in time and may increase as AI systems adapt and evolve. Furthermore, different AI actors across the AI lifecycle can have different risk perspectives. For example, an AI developer who makes AI software available, such as pre-trained models, can have a different risk perspective than an AI actor who is responsible for deploying that pre-trained model in a specific use case. Such deployers may not recognize that their particular uses could entail risks which differ from those perceived by the initial developer. All involved AI actors share responsibilities for designing, developing, and deploying a trustworthy AI system that is fit for purpose.",
          "translation_text": "AIライフサイクルの異なる段階におけるリスク：AIライフサイクルの早い段階でリスクを測定した場合と、後の段階で測定した場合とでは、異なる結果が得られることがある。一部のリスクは、ある時点では潜在的なものにとどまり、AIシステムが適応し進化するにつれて増大することがある。さらに、AIライフサイクル全体にわたる異なるAIアクターは、それぞれ異なるリスクの視点を持ちうる。例えば、事前学習済みモデルなどのAIソフトウェアを提供するAI開発者は、その事前学習済みモデルを特定のユースケースで展開する責任を負うAIアクターとは異なるリスクの視点を持つことがある。そうした展開者は、自らの特定の用途が、当初の開発者が認識していたものとは異なるリスクを伴いうることに気づかない場合がある。関与するすべてのAIアクターは、目的に適合した信頼できるAIシステムを設計、開発、展開する責任を共有している。",
          "translation_html": "AIライフサイクルの異なる段階におけるリスク：AIライフサイクルの早い段階でリスクを測定した場合と、後の段階で測定した場合とでは、異なる結果が得られることがある。一部のリスクは、ある時点では潜在的なものにとどまり、AIシステムが適応し進化するにつれて増大することがある。さらに、AIライフサイクル全体にわたる異なるAIアクターは、それぞれ異なるリスクの視点を持ちうる。例えば、事前学習済みモデルなどのAIソフトウェアを提供するAI開発者は、その事前学習済みモデルを特定のユースケースで展開する責任を負うAIアクターとは異なるリスクの視点を持つことがある。そうした展開者は、自らの特定の用途が、当初の開発者が認識していたものとは異なるリスクを伴いうることに気づかない場合がある。関与するすべてのAIアクターは、目的に適合した信頼できるAIシステムを設計、開発、展開する責任を共有している。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risk in real-world settings: While measuring AI risks in a laboratory or a controlled environment may yield important insights pre-deployment, these measurements may differ from risks that emerge in operational, real-world settings.",
          "translation_text": "現実世界の環境におけるリスク：実験室や管理された環境でAIリスクを測定することは、展開前の重要な知見をもたらしうるが、こうした測定結果は、実際の運用環境で顕在化するリスクとは異なる場合がある。",
          "translation_html": "現実世界の環境におけるリスク：実験室や管理された環境でAIリスクを測定することは、展開前の重要な知見をもたらしうるが、こうした測定結果は、実際の運用環境で顕在化するリスクとは異なる場合がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Inscrutability: Inscrutable AI systems can complicate risk measurement. Inscrutability can be a result of the opaque nature of AI systems (limited explainability or interpretability), lack of transparency or documentation in AI system development or deployment, or inherent uncertainties in AI systems.",
          "translation_text": "不可解性（インスクルータビリティ）：不可解なAIシステムは、リスクの測定を複雑化させることがある。この不可解性は、AIシステムの不透明な性質（限定的な説明可能性または解釈可能性）、AIシステムの開発または展開における透明性や文書化の欠如、あるいはAIシステムに内在する不確実性に起因することがある。",
          "translation_html": "不可解性（インスクルータビリティ）：不可解なAIシステムは、リスクの測定を複雑化させることがある。この不可解性は、AIシステムの不透明な性質（限定的な説明可能性または解釈可能性）、AIシステムの開発または展開における透明性や文書化の欠如、あるいはAIシステムに内在する不確実性に起因することがある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Human baseline: Risk management of AI systems that are intended to augment or replace human activity, for example decision making, requires some form of baseline metrics for comparison. This is difficult to systematize since AI systems carry out different tasks – and perform tasks differently – than humans.",
          "translation_text": "人間のベースライン：人間の活動、例えば意思決定を補完または代替することを意図したAIシステムのリスクマネジメントには、比較のための何らかのベースライン指標が必要となる。AIシステムは人間とは異なる作業を——また異なる形で作業を——行うため、これを体系化することは難しい。",
          "translation_html": "人間のベースライン：人間の活動、例えば意思決定を補完または代替することを意図したAIシステムのリスクマネジメントには、比較のための何らかのベースライン指標が必要となる。AIシステムは人間とは異なる作業を——また異なる形で作業を——行うため、これを体系化することは難しい。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1.2.2   Risk Tolerance",
          "translation_text": "1.2.2   リスク許容度",
          "translation_html": "1.2.2   リスク許容度"
        },
        {
          "type": "bilingual_paragraph",
          "original": "While the AI RMF can be used to prioritize risk, it does not prescribe risk tolerance. Risk tolerance refers to the organization’s or AI actor’s (see Appendix A) readiness to bear the risk in order to achieve its objectives. Risk tolerance can be influenced by legal or regulatory requirements (Adapted from: ISO GUIDE 73). Risk tolerance and the level of risk that is acceptable to organizations or society are highly contextual and application and use-case specific. Risk tolerances can be influenced by policies and norms established by AI system owners, organizations, industries, communities, or policy makers. Risk tolerances are likely to change over time as AI systems, policies, and norms evolve. Different organizations may have varied risk tolerances due to their particular organizational priorities and resource considerations.",
          "translation_text": "AI RMFはリスクの優先順位付けに用いることができるが、リスク許容度を規定するものではない。リスク許容度とは、組織またはAIアクター（付録A参照）が、自らの目的を達成するためにリスクを引き受ける準備がどの程度整っているかを指す。リスク許容度は、法令または規制上の要件によって左右されうる（出典：ISO GUIDE 73を改変）。リスク許容度、および組織や社会にとって許容可能なリスクの水準は、文脈や用途、ユースケースに強く依存する。リスク許容度は、AIシステムの所有者、組織、業界、コミュニティ、または政策立案者が定めた方針や規範によって左右されうる。AIシステム、方針、規範が変化するのに伴い、リスク許容度も時間とともに変化していく可能性が高い。組織によって、その組織固有の優先事項やリソース上の事情から、リスク許容度は異なりうる。",
          "translation_html": "AI RMFはリスクの優先順位付けに用いることができるが、リスク許容度を規定するものではない。リスク許容度とは、組織またはAIアクター（付録A参照）が、自らの目的を達成するためにリスクを引き受ける準備がどの程度整っているかを指す。リスク許容度は、法令または規制上の要件によって左右されうる（出典：ISO GUIDE 73を改変）。リスク許容度、および組織や社会にとって許容可能なリスクの水準は、文脈や用途、ユースケースに強く依存する。リスク許容度は、AIシステムの所有者、組織、業界、コミュニティ、または政策立案者が定めた方針や規範によって左右されうる。AIシステム、方針、規範が変化するのに伴い、リスク許容度も時間とともに変化していく可能性が高い。組織によって、その組織固有の優先事項やリソース上の事情から、リスク許容度は異なりうる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Emerging knowledge and methods to better inform harm/cost-benefit tradeoffs will continue to be developed and debated by businesses, governments, academia, and civil society. To the extent that challenges for specifying AI risk tolerances remain unresolved, there may be contexts where a risk management framework is not yet readily applicable for mitigating negative AI risks.",
          "translation_text": "害／費用便益のトレードオフをより良く判断するための新たな知見や手法は、企業、政府、学界、市民社会によって今後も開発され、議論され続けるであろう。AIのリスク許容度を明確化する上での課題が未解決のままである限り、負のAIリスクを緩和するためのリスクマネジメントフレームワークが、まだ十分に適用可能とは言えない文脈も存在しうる。",
          "translation_html": "害／費用便益のトレードオフをより良く判断するための新たな知見や手法は、企業、政府、学界、市民社会によって今後も開発され、議論され続けるであろう。AIのリスク許容度を明確化する上での課題が未解決のままである限り、負のAIリスクを緩和するためのリスクマネジメントフレームワークが、まだ十分に適用可能とは言えない文脈も存在しうる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The Framework is intended to be flexible and to augment existing risk practices which should align with applicable laws, regulations, and norms. Organizations should follow existing regulations and guidelines for risk criteria, tolerance, and response established by organizational, domain, discipline, sector, or professional requirements. Some sectors or industries may have established definitions of harm or established documentation, reporting, and disclosure requirements. Within sectors, risk management may depend on existing guidelines for specific applications and use case settings. Where established guidelines do not exist, organizations should define reasonable risk tolerance. Once tolerance is defined, this AI RMF can be used to manage risks and to document risk management processes.",
          "translation_text": "本フレームワークは柔軟であることを意図しており、適用される法律、規制、規範と整合すべき既存のリスク実務を補完するものである。組織は、組織、分野、専門職、セクター、または職業上の要件によって確立されたリスク基準、許容度、対応に関する既存の規制やガイドラインに従うべきである。一部のセクターや業界では、害についての定義や、文書化・報告・開示要件が既に確立されている場合がある。セクター内では、リスクマネジメントは特定のアプリケーションやユースケースの状況に関する既存のガイドラインに依拠する場合がある。確立されたガイドラインが存在しない場合、組織は合理的なリスク許容度を定めるべきである。許容度が定められた後は、本AI RMFを用いてリスクを管理し、リスクマネジメントのプロセスを文書化することができる。",
          "translation_html": "本フレームワークは柔軟であることを意図しており、適用される法律、規制、規範と整合すべき既存のリスク実務を補完するものである。組織は、組織、分野、専門職、セクター、または職業上の要件によって確立されたリスク基準、許容度、対応に関する既存の規制やガイドラインに従うべきである。一部のセクターや業界では、害についての定義や、文書化・報告・開示要件が既に確立されている場合がある。セクター内では、リスクマネジメントは特定のアプリケーションやユースケースの状況に関する既存のガイドラインに依拠する場合がある。確立されたガイドラインが存在しない場合、組織は合理的なリスク許容度を定めるべきである。許容度が定められた後は、本AI RMFを用いてリスクを管理し、リスクマネジメントのプロセスを文書化することができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1.2.3   Risk Prioritization",
          "translation_text": "1.2.3   リスクの優先順位付け",
          "translation_html": "1.2.3   リスクの優先順位付け"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Attempting to eliminate negative risk entirely can be counterproductive in practice because not all incidents and failures can be eliminated. Unrealistic expectations about risk may lead organizations to allocate resources in a manner that makes risk triage inefficient or impractical or wastes scarce resources. A risk management culture can help organizations recognize that not all AI risks are the same, and resources can be allocated purposefully. Actionable risk management efforts lay out clear guidelines for assessing trustworthiness of each AI system an organization develops or deploys. Policies and resources should be prioritized based on the assessed risk level and potential impact of an AI system. The extent to which an AI system may be customized or tailored to the specific context of use by the AI deployer can be a contributing factor.",
          "translation_text": "負のリスクを完全に排除しようとすることは、実務上、かえって逆効果になりうる。なぜなら、すべてのインシデントや障害を排除できるわけではないからである。リスクに関する非現実的な期待は、組織がリソースを非効率的あるいは非現実的な形でリスクのトリアージに配分してしまったり、限られたリソースを浪費してしまったりする結果につながりかねない。リスクマネジメントの文化は、すべてのAIリスクが同一ではないことを組織が認識し、リソースを目的意識をもって配分する助けとなり得る。実効性のあるリスクマネジメントの取り組みは、組織が開発または展開する各AIシステムの信頼性を評価するための明確なガイドラインを示す。方針とリソースは、AIシステムについて評価されたリスクの水準と潜在的な影響に基づいて優先順位付けされるべきである。AIシステムがAI展開者による特定の利用文脈に合わせてどの程度カスタマイズまたは調整され得るかも、これに寄与する要因となりうる。",
          "translation_html": "負のリスクを完全に排除しようとすることは、実務上、かえって逆効果になりうる。なぜなら、すべてのインシデントや障害を排除できるわけではないからである。リスクに関する非現実的な期待は、組織がリソースを非効率的あるいは非現実的な形でリスクのトリアージに配分してしまったり、限られたリソースを浪費してしまったりする結果につながりかねない。リスクマネジメントの文化は、すべてのAIリスクが同一ではないことを組織が認識し、リソースを目的意識をもって配分する助けとなり得る。実効性のあるリスクマネジメントの取り組みは、組織が開発または展開する各AIシステムの信頼性を評価するための明確なガイドラインを示す。方針とリソースは、AIシステムについて評価されたリスクの水準と潜在的な影響に基づいて優先順位付けされるべきである。AIシステムがAI展開者による特定の利用文脈に合わせてどの程度カスタマイズまたは調整され得るかも、これに寄与する要因となりうる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "When applying the AI RMF, risks which the organization determines to be highest for the AI systems within a given context of use call for the most urgent prioritization and most thorough risk management process. In cases where an AI system presents unacceptable negative risk levels – such as where significant negative impacts are imminent, severe harms are actually occurring, or catastrophic risks are present – development and deployment should cease in a safe manner until risks can be sufficiently managed. If an AI system’s development, deployment, and use cases are found to be low-risk in a specific context, that may suggest potentially lower prioritization.",
          "translation_text": "AI RMFを適用するにあたり、組織が特定の利用文脈においてAIシステムにとって最も高いと判断したリスクは、最も緊急の優先順位付けと最も徹底したリスクマネジメントのプロセスを必要とする。AIシステムが許容できない水準の負のリスクを呈する場合——重大な負の影響が差し迫っている場合、深刻な害が実際に生じている場合、または破滅的なリスクが存在する場合など——には、リスクが十分に管理できるようになるまで、開発と展開を安全な方法で中止すべきである。特定の文脈においてAIシステムの開発、展開、利用がリスクの低いものであると判明した場合、それは相対的に優先順位が低くてよいことを示唆する場合がある。",
          "translation_html": "AI RMFを適用するにあたり、組織が特定の利用文脈においてAIシステムにとって最も高いと判断したリスクは、最も緊急の優先順位付けと最も徹底したリスクマネジメントのプロセスを必要とする。AIシステムが許容できない水準の負のリスクを呈する場合——重大な負の影響が差し迫っている場合、深刻な害が実際に生じている場合、または破滅的なリスクが存在する場合など——には、リスクが十分に管理できるようになるまで、開発と展開を安全な方法で中止すべきである。特定の文脈においてAIシステムの開発、展開、利用がリスクの低いものであると判明した場合、それは相対的に優先順位が低くてよいことを示唆する場合がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risk prioritization may differ between AI systems that are designed or deployed to directly interact with humans as compared to AI systems that are not. Higher initial prioritization may be called for in settings where the AI system is trained on large datasets comprised of sensitive or protected data such as personally identifiable information, or where the outputs of the AI systems have direct or indirect impact on humans. AI systems designed to interact only with computational systems and trained on non-sensitive datasets (for example, data collected from the physical environment) may call for lower initial prioritization. Nonetheless, regularly assessing and prioritizing risk based on context remains important because non-human-facing AI systems can have downstream safety or social implications.",
          "translation_text": "AIシステムが人間と直接やり取りするよう設計または展開されている場合と、そうでない場合とでは、リスクの優先順位付けが異なりうる。AIシステムが個人を特定しうる情報などの機微または保護されたデータからなる大規模なデータセットで訓練されている場合、またはAIシステムの出力が人間に直接的または間接的な影響を及ぼす場合には、当初からより高い優先順位付けが求められることがある。計算システムとのみやり取りするよう設計され、機微でないデータセット（例えば物理環境から収集されたデータ）で訓練されたAIシステムについては、当初の優先順位付けは低くてもよい場合がある。とはいえ、人間と直接対面しないAIシステムであっても下流の安全上または社会的な影響を及ぼしうるため、文脈に基づいてリスクを定期的に評価し優先順位付けすることは依然として重要である。",
          "translation_html": "AIシステムが人間と直接やり取りするよう設計または展開されている場合と、そうでない場合とでは、リスクの優先順位付けが異なりうる。AIシステムが個人を特定しうる情報などの機微または保護されたデータからなる大規模なデータセットで訓練されている場合、またはAIシステムの出力が人間に直接的または間接的な影響を及ぼす場合には、当初からより高い優先順位付けが求められることがある。計算システムとのみやり取りするよう設計され、機微でないデータセット（例えば物理環境から収集されたデータ）で訓練されたAIシステムについては、当初の優先順位付けは低くてもよい場合がある。とはいえ、人間と直接対面しないAIシステムであっても下流の安全上または社会的な影響を及ぼしうるため、文脈に基づいてリスクを定期的に評価し優先順位付けすることは依然として重要である。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Residual risk – defined as risk remaining after risk treatment (Source: ISO GUIDE 73) – directly impacts end users or affected individuals and communities. Documenting residual risks will call for the system provider to fully consider the risks of deploying the AI product and will inform end users about potential negative impacts of interacting with the system.",
          "translation_text": "残余リスク——リスク対応後に残るリスクと定義される（出典：ISO GUIDE 73）——は、エンドユーザーや影響を受ける個人・コミュニティに直接的な影響を及ぼす。残余リスクを文書化することにより、システム提供者はAI製品を展開することのリスクを十分に検討することが求められ、また、エンドユーザーはシステムとやり取りすることに伴う潜在的な負の影響について知らされることになる。",
          "translation_html": "残余リスク——リスク対応後に残るリスクと定義される（出典：ISO GUIDE 73）——は、エンドユーザーや影響を受ける個人・コミュニティに直接的な影響を及ぼす。残余リスクを文書化することにより、システム提供者はAI製品を展開することのリスクを十分に検討することが求められ、また、エンドユーザーはシステムとやり取りすることに伴う潜在的な負の影響について知らされることになる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1.2.4   Organizational Integration and Management of Risk",
          "translation_text": "1.2.4   組織への統合とリスクの管理",
          "translation_html": "1.2.4   組織への統合とリスクの管理"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI risks should not be considered in isolation. Different AI actors have different responsibilities and awareness depending on their roles in the lifecycle. For example, organizations developing an AI system often will not have information about how the system may be used. AI risk management should be integrated and incorporated into broader enterprise risk management strategies and processes. Treating AI risks along with other critical risks, such as cybersecurity and privacy, will yield a more integrated outcome and organizational efficiencies.",
          "translation_text": "AIリスクは、単独で検討されるべきではない。異なるAIアクターは、ライフサイクルにおける役割に応じて異なる責任と認識を持つ。例えば、AIシステムを開発する組織は、そのシステムがどのように利用されるかについての情報を持たないことが多い。AIリスクマネジメントは、より広範なエンタープライズ・リスクマネジメントの戦略やプロセスに統合され、組み込まれるべきである。サイバーセキュリティやプライバシーなど、他の重要なリスクと合わせてAIリスクに対処することで、より統合された成果と組織上の効率性が得られる。",
          "translation_html": "AIリスクは、単独で検討されるべきではない。異なるAIアクターは、ライフサイクルにおける役割に応じて異なる責任と認識を持つ。例えば、AIシステムを開発する組織は、そのシステムがどのように利用されるかについての情報を持たないことが多い。AIリスクマネジメントは、より広範なエンタープライズ・リスクマネジメントの戦略やプロセスに統合され、組み込まれるべきである。サイバーセキュリティやプライバシーなど、他の重要なリスクと合わせてAIリスクに対処することで、より統合された成果と組織上の効率性が得られる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The AI RMF may be utilized along with related guidance and frameworks for managing AI system risks or broader enterprise risks. Some risks related to AI systems are common across other types of software development and deployment. Examples of overlapping risks include: privacy concerns related to the use of underlying data to train AI systems; the energy and environmental implications associated with resource-heavy computing demands; security concerns related to the confidentiality, integrity, and availability of the system and its training and output data; and general security of the underlying software and hardware for AI systems.",
          "translation_text": "AI RMFは、AIシステムのリスクやより広範なエンタープライズリスクを管理するための関連ガイダンスやフレームワークと併せて活用することができる。AIシステムに関連する一部のリスクは、他の種類のソフトウェアの開発や展開にも共通するものである。重複するリスクの例としては、AIシステムの訓練に用いる基盤データの利用に関するプライバシー上の懸念、リソースを大量に消費する計算需要に伴うエネルギーおよび環境への影響、システムおよびその訓練データ・出力データの機密性、完全性、可用性に関するセキュリティ上の懸念、そしてAIシステムを支えるソフトウェアおよびハードウェア全般のセキュリティが挙げられる。",
          "translation_html": "AI RMFは、AIシステムのリスクやより広範なエンタープライズリスクを管理するための関連ガイダンスやフレームワークと併せて活用することができる。AIシステムに関連する一部のリスクは、他の種類のソフトウェアの開発や展開にも共通するものである。重複するリスクの例としては、AIシステムの訓練に用いる基盤データの利用に関するプライバシー上の懸念、リソースを大量に消費する計算需要に伴うエネルギーおよび環境への影響、システムおよびその訓練データ・出力データの機密性、完全性、可用性に関するセキュリティ上の懸念、そしてAIシステムを支えるソフトウェアおよびハードウェア全般のセキュリティが挙げられる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Organizations need to establish and maintain the appropriate accountability mechanisms, roles and responsibilities, culture, and incentive structures for risk management to be effective. Use of the AI RMF alone will not lead to these changes or provide the appropriate incentives. Effective risk management is realized through organizational commitment at senior levels and may require cultural change within an organization or industry. In addition, small to medium-sized organizations managing AI risks or implementing the AI RMF may face different challenges than large organizations, depending on their capabilities and resources.",
          "translation_text": "組織は、リスクマネジメントを有効なものとするために、適切なアカウンタビリティの仕組み、役割と責任、文化、そしてインセンティブ構造を確立し、維持する必要がある。AI RMFを活用するだけでは、こうした変化はもたらされず、適切なインセンティブも提供されない。効果的なリスクマネジメントは、上級レベルでの組織的なコミットメントを通じて実現されるものであり、組織や業界における文化的な変革を必要とする場合がある。さらに、AIリスクを管理する、あるいはAI RMFを実施する中小規模の組織は、その能力やリソースに応じて、大規模な組織とは異なる課題に直面する可能性がある。",
          "translation_html": "組織は、リスクマネジメントを有効なものとするために、適切なアカウンタビリティの仕組み、役割と責任、文化、そしてインセンティブ構造を確立し、維持する必要がある。AI RMFを活用するだけでは、こうした変化はもたらされず、適切なインセンティブも提供されない。効果的なリスクマネジメントは、上級レベルでの組織的なコミットメントを通じて実現されるものであり、組織や業界における文化的な変革を必要とする場合がある。さらに、AIリスクを管理する、あるいはAI RMFを実施する中小規模の組織は、その能力やリソースに応じて、大規模な組織とは異なる課題に直面する可能性がある。"
        }
      ]
    },
    {
      "id": "usg-s2_audience",
      "heading": "2. Audience",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "2.   Audience Identifying and managing AI risks and potential impacts – both positive and negative – requires a broad set of perspectives and actors across the AI lifecycle. Ideally, AI actors will represent a diversity of experience, expertise, and backgrounds and comprise demographically and disciplinarily diverse teams. The AI RMF is intended to be used by AI actors across the AI lifecycle and dimensions.",
          "translation_text": "2.   対象読者 AIリスクおよび潜在的な影響——正負いずれも——を特定し管理するには、AIライフサイクル全体にわたる幅広い視点と関係者が必要である。理想的には、AIアクターは多様な経験、専門性、背景を代表し、人口統計的にも専門分野的にも多様なチームで構成されることが望ましい。AI RMFは、AIライフサイクルおよびその諸側面にわたるAIアクターによって利用されることを意図している。",
          "translation_html": "2.   対象読者 AIリスクおよび潜在的な影響——正負いずれも——を特定し管理するには、AIライフサイクル全体にわたる幅広い視点と関係者が必要である。理想的には、AIアクターは多様な経験、専門性、背景を代表し、人口統計的にも専門分野的にも多様なチームで構成されることが望ましい。AI RMFは、AIライフサイクルおよびその諸側面にわたるAIアクターによって利用されることを意図している。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The OECD has developed a framework for classifying AI lifecycle activities according to five key socio-technical dimensions, each with properties relevant for AI policy and governance, including risk management [OECD (2022) OECD Framework for the Classification of AI systems — OECD Digital Economy Papers]. Figure 2 shows these dimensions, slightly modified by NIST for purposes of this framework. The NIST modification highlights the importance of test, evaluation, verification, and validation (TEVV) processes throughout an AI lifecycle and generalizes the operational context of an AI system.",
          "translation_text": "OECDは、AIのライフサイクル活動を、リスクマネジメントを含むAI政策・ガバナンスに関連する特性を備えた5つの主要な社会技術的側面に従って分類するフレームワークを策定している〔OECD（2022）OECD Framework for the Classification of AI systems — OECD Digital Economy Papers〕。図2はこれらの側面を示しており、本フレームワークの目的のためにNISTが若干修正を加えている。NISTによる修正は、AIライフサイクル全体を通じたテスト、評価、検証、および妥当性確認（TEVV）プロセスの重要性を強調するとともに、AIシステムの運用上の文脈を一般化するものである。",
          "translation_html": "OECDは、AIのライフサイクル活動を、リスクマネジメントを含むAI政策・ガバナンスに関連する特性を備えた5つの主要な社会技術的側面に従って分類するフレームワークを策定している〔OECD（2022）OECD Framework for the Classification of AI systems — OECD Digital Economy Papers〕。図2はこれらの側面を示しており、本フレームワークの目的のためにNISTが若干修正を加えている。NISTによる修正は、AIライフサイクル全体を通じたテスト、評価、検証、および妥当性確認（TEVV）プロセスの重要性を強調するとともに、AIシステムの運用上の文脈を一般化するものである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI dimensions displayed in Figure 2 are the Application Context, Data and Input, AI Model, and Task and Output. AI actors involved in these dimensions who perform or manage the design, development, deployment, evaluation, and use of AI systems and drive AI risk management efforts are the primary AI RMF audience.",
          "translation_text": "図2に示されるAIの諸側面とは、アプリケーションの文脈、データと入力、AIモデル、そしてタスクと出力である。これらの側面に関与し、AIシステムの設計、開発、展開、評価、利用を行う、あるいは管理し、AIリスクマネジメントの取り組みを推進するAIアクターが、AI RMFの主たる対象読者である。",
          "translation_html": "図2に示されるAIの諸側面とは、アプリケーションの文脈、データと入力、AIモデル、そしてタスクと出力である。これらの側面に関与し、AIシステムの設計、開発、展開、評価、利用を行う、あるいは管理し、AIリスクマネジメントの取り組みを推進するAIアクターが、AI RMFの主たる対象読者である。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Representative AI actors across the lifecycle dimensions are listed in Figure 3 and described in detail in Appendix A. Within the AI RMF, all AI actors work together to manage risks and achieve the goals of trustworthy and responsible AI. AI actors with TEVV-specific expertise are integrated throughout the AI lifecycle and are especially likely to benefit from the Framework. Performed regularly, TEVV tasks can provide insights relative to technical, societal, legal, and ethical standards or norms, and can assist with anticipating impacts and assessing and tracking emergent risks. As a regular process within an AI lifecycle, TEVV allows for both mid-course remediation and post-hoc risk management.",
          "translation_text": "ライフサイクルの各側面における代表的なAIアクターは図3に示されており、付録Aで詳細に説明されている。AI RMFにおいては、すべてのAIアクターが協働して、リスクを管理し、信頼できる責任あるAIという目標を達成する。TEVVに関する専門性を持つAIアクターは、AIライフサイクル全体に組み込まれており、本フレームワークから特に恩恵を受ける可能性が高い。定期的に実施されるTEVVのタスクは、技術的、社会的、法的、倫理的な基準や規範に関連する知見をもたらし、影響の予測や、新たに生じるリスクの評価・追跡を支援することができる。AIライフサイクルにおける定期的なプロセスとして、TEVVは、中間段階での是正と事後的なリスクマネジメントの両方を可能にする。",
          "translation_html": "ライフサイクルの各側面における代表的なAIアクターは図3に示されており、付録Aで詳細に説明されている。AI RMFにおいては、すべてのAIアクターが協働して、リスクを管理し、信頼できる責任あるAIという目標を達成する。TEVVに関する専門性を持つAIアクターは、AIライフサイクル全体に組み込まれており、本フレームワークから特に恩恵を受ける可能性が高い。定期的に実施されるTEVVのタスクは、技術的、社会的、法的、倫理的な基準や規範に関連する知見をもたらし、影響の予測や、新たに生じるリスクの評価・追跡を支援することができる。AIライフサイクルにおける定期的なプロセスとして、TEVVは、中間段階での是正と事後的なリスクマネジメントの両方を可能にする。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The People & Planet dimension at the center of Figure 2 represents human rights and the broader well-being of society and the planet. The AI actors in this dimension comprise a separate AI RMF audience who informs the primary audience. These AI actors may include trade associations, standards developing organizations, researchers, advocacy groups,",
          "translation_text": "図2の中心に位置する「人々と地球」の側面は、人権、そしてより広い社会と地球の幸福（ウェルビーイング）を表している。この側面におけるAIアクターは、主たる対象読者に情報を提供する、別のAI RMFの対象読者を構成する。こうしたAIアクターには、業界団体、標準策定機関、研究者、擁護団体、",
          "translation_html": "図2の中心に位置する「人々と地球」の側面は、人権、そしてより広い社会と地球の幸福（ウェルビーイング）を表している。この側面におけるAIアクターは、主たる対象読者に情報を提供する、別のAI RMFの対象読者を構成する。こうしたAIアクターには、業界団体、標準策定機関、研究者、擁護団体、"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Fig. 2. Lifecycle and Key Dimensions of an AI System. Modified from OECD (2022) OECD Framework for the Classification of AI systems — OECD Digital Economy Papers. The two inner circles show AI systems’ key dimensions and the outer circle shows AI lifecycle stages. Ideally, risk management efforts start with the Plan and Design function in the application context and are performed throughout the AI system lifecycle. See Figure 3 for representative AI actors.",
          "translation_text": "図2. AIシステムのライフサイクルと主要な側面。OECD（2022）OECD Framework for the Classification of AI systems — OECD Digital Economy Papers を改変。内側の2つの円はAIシステムの主要な側面を示し、外側の円はAIライフサイクルの各段階を示す。理想的には、リスクマネジメントの取り組みは、アプリケーションの文脈における計画・設計機能から始まり、AIシステムのライフサイクル全体を通じて行われる。代表的なAIアクターについては図3を参照のこと。",
          "translation_html": "図2. AIシステムのライフサイクルと主要な側面。OECD（2022）OECD Framework for the Classification of AI systems — OECD Digital Economy Papers を改変。内側の2つの円はAIシステムの主要な側面を示し、外側の円はAIライフサイクルの各段階を示す。理想的には、リスクマネジメントの取り組みは、アプリケーションの文脈における計画・設計機能から始まり、AIシステムのライフサイクル全体を通じて行われる。代表的なAIアクターについては図3を参照のこと。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "environmental groups, civil society organizations, end users, and potentially impacted individuals and communities. These actors can:",
          "translation_text": "環境団体、市民社会組織、エンドユーザー、そして影響を受ける可能性のある個人やコミュニティが含まれうる。これらの関係者は、以下のことができる。",
          "translation_html": "環境団体、市民社会組織、エンドユーザー、そして影響を受ける可能性のある個人やコミュニティが含まれうる。これらの関係者は、以下のことができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• assist in providing context and understanding potential and actual impacts; • be a source of formal or quasi-formal norms and guidance for AI risk management; • designate boundaries for AI operation (technical, societal, legal, and ethical); and • promote discussion of the tradeoffs needed to balance societal values and priorities related to civil liberties and rights, equity, the environment and the planet, and the economy.",
          "translation_text": "• 潜在的および実際の影響についての文脈と理解を提供する一助となる。 • AIリスクマネジメントのための正式または準正式な規範やガイダンスの源となる。 • AIの運用（技術的、社会的、法的、倫理的）に関する境界を定める。 • 市民的自由や権利、公平性、環境と地球、そして経済に関連する社会的な価値観や優先事項のバランスを取るために必要なトレードオフについての議論を促進する。",
          "translation_html": "• 潜在的および実際の影響についての文脈と理解を提供する一助となる。 • AIリスクマネジメントのための正式または準正式な規範やガイダンスの源となる。 • AIの運用（技術的、社会的、法的、倫理的）に関する境界を定める。 • 市民的自由や権利、公平性、環境と地球、そして経済に関連する社会的な価値観や優先事項のバランスを取るために必要なトレードオフについての議論を促進する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Successful risk management depends upon a sense of collective responsibility among AI actors shown in Figure 3. The AI RMF functions, described in Section 5, require diverse perspectives, disciplines, professions, and experiences. Diverse teams contribute to more open sharing of ideas and assumptions about the purposes and functions of technology – making these implicit aspects more explicit. This broader collective perspective creates opportunities for surfacing problems and identifying existing and emergent risks.",
          "translation_text": "リスクマネジメントを成功させるには、図3に示されたAIアクターの間での集団的責任の意識が不可欠である。第5節で説明するAI RMFの各機能には、多様な視点、専門分野、職業、経験が求められる。多様なチームは、技術の目的や機能についての考えや前提をより開かれた形で共有することに寄与し、こうした暗黙の側面をより明示的なものにする。この、より広範な集団的視点は、問題を表面化させ、既存および新たに生じるリスクを特定する機会を生み出す。",
          "translation_html": "リスクマネジメントを成功させるには、図3に示されたAIアクターの間での集団的責任の意識が不可欠である。第5節で説明するAI RMFの各機能には、多様な視点、専門分野、職業、経験が求められる。多様なチームは、技術の目的や機能についての考えや前提をより開かれた形で共有することに寄与し、こうした暗黙の側面をより明示的なものにする。この、より広範な集団的視点は、問題を表面化させ、既存および新たに生じるリスクを特定する機会を生み出す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Fig. 3. AI actors across AI lifecycle stages. See Appendix A for detailed descriptions of AI actor tasks, including details about testing, evaluation, verification, and validation tasks. Note that AI actors in the AI Model dimension (Figure 2) are separated as a best practice, with those building and using the models separated from those verifying and validating the models.",
          "translation_text": "図3. AIライフサイクルの各段階にわたるAIアクター。テスト、評価、検証、および妥当性確認に関するタスクの詳細を含む、AIアクターのタスクの詳細な説明については付録Aを参照のこと。なお、（図2の）AIモデルの側面におけるAIアクターは、ベストプラクティスとして、モデルを構築・利用する者とモデルを検証・妥当性確認する者とに区別されている点に留意されたい。",
          "translation_html": "図3. AIライフサイクルの各段階にわたるAIアクター。テスト、評価、検証、および妥当性確認に関するタスクの詳細を含む、AIアクターのタスクの詳細な説明については付録Aを参照のこと。なお、（図2の）AIモデルの側面におけるAIアクターは、ベストプラクティスとして、モデルを構築・利用する者とモデルを検証・妥当性確認する者とに区別されている点に留意されたい。"
        }
      ]
    },
    {
      "id": "usg-s3_trustworthiness",
      "heading": "3. AI Risks and Trustworthiness",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "3.   AI Risks and Trustworthiness For AI systems to be trustworthy, they often need to be responsive to a multiplicity of criteria that are of value to interested parties. Approaches which enhance AI trustworthiness can reduce negative AI risks. This Framework articulates the following characteristics of trustworthy AI and offers guidance for addressing them. Characteristics of trustworthy AI systems include: valid and reliable, safe, secure and resilient, accountable and transparent, explainable and interpretable, privacy-enhanced, and fair with harmful bias managed. Creating trustworthy AI requires balancing each of these characteristics based on the AI system’s context of use. While all characteristics are socio-technical system attributes, accountability and transparency also relate to the processes and activities internal to an AI system and its external setting. Neglecting these characteristics can increase the probability and magnitude of negative consequences.",
          "translation_text": "3.   AIのリスクと信頼性 AIシステムが信頼できるものであるためには、多くの場合、関係者にとって価値のある多様な基準に応えられる必要がある。AIの信頼性を高めるアプローチは、負のAIリスクを低減することができる。本フレームワークは、信頼できるAIの以下の特性を明示し、それらに対処するためのガイダンスを提供する。信頼できるAIシステムの特性には、妥当性と信頼性、安全性、セキュリティとレジリエンス、アカウンタビリティと透明性、説明可能性と解釈可能性、プライバシーへの配慮、そして有害なバイアスが管理された公平性が含まれる。信頼できるAIを実現するには、AIシステムの利用文脈に応じて、これらの特性それぞれの間でバランスを取ることが必要である。すべての特性は社会技術システムの属性であるが、アカウンタビリティと透明性は、AIシステム内部のプロセスや活動、およびその外部の環境にも関連する。これらの特性を軽視すると、負の結果が生じる確率と大きさが増大しかねない。",
          "translation_html": "3.   AIのリスクと信頼性 AIシステムが信頼できるものであるためには、多くの場合、関係者にとって価値のある多様な基準に応えられる必要がある。AIの信頼性を高めるアプローチは、負のAIリスクを低減することができる。本フレームワークは、信頼できるAIの以下の特性を明示し、それらに対処するためのガイダンスを提供する。信頼できるAIシステムの特性には、妥当性と信頼性、安全性、セキュリティとレジリエンス、アカウンタビリティと透明性、説明可能性と解釈可能性、プライバシーへの配慮、そして有害なバイアスが管理された公平性が含まれる。信頼できるAIを実現するには、AIシステムの利用文脈に応じて、これらの特性それぞれの間でバランスを取ることが必要である。すべての特性は社会技術システムの属性であるが、アカウンタビリティと透明性は、AIシステム内部のプロセスや活動、およびその外部の環境にも関連する。これらの特性を軽視すると、負の結果が生じる確率と大きさが増大しかねない。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Fig. 4. Characteristics of trustworthy AI systems. Valid & Reliable is a necessary condition of trustworthiness and is shown as the base for other trustworthiness characteristics. Accountable & Transparent is shown as a vertical box because it relates to all other characteristics.",
          "translation_text": "図4. 信頼できるAIシステムの特性。妥当性と信頼性は信頼性（トラストワーシネス）の必要条件であり、他の信頼性に関する特性を支える基盤として示されている。アカウンタビリティと透明性は、他のすべての特性に関わることから、縦方向のボックスとして示されている。",
          "translation_html": "図4. 信頼できるAIシステムの特性。妥当性と信頼性は信頼性（トラストワーシネス）の必要条件であり、他の信頼性に関する特性を支える基盤として示されている。アカウンタビリティと透明性は、他のすべての特性に関わることから、縦方向のボックスとして示されている。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Trustworthiness characteristics (shown in Figure 4) are inextricably tied to social and organizational behavior, the datasets used by AI systems, selection of AI models and algorithms and the decisions made by those who build them, and the interactions with the humans who provide insight from and oversight of such systems. Human judgment should be employed when deciding on the specific metrics related to AI trustworthiness characteristics and the precise threshold values for those metrics.",
          "translation_text": "図4に示す信頼性の特性は、社会的・組織的な行動、AIシステムが用いるデータセット、AIモデルやアルゴリズムの選択とそれを構築する者による意思決定、そしてこうしたシステムから知見を得たりこれを監督したりする人間との相互作用と、切り離せない形で結びついている。AIの信頼性に関する特性に関連する具体的な指標や、その指標の正確な閾値を決定する際には、人間の判断が用いられるべきである。",
          "translation_html": "図4に示す信頼性の特性は、社会的・組織的な行動、AIシステムが用いるデータセット、AIモデルやアルゴリズムの選択とそれを構築する者による意思決定、そしてこうしたシステムから知見を得たりこれを監督したりする人間との相互作用と、切り離せない形で結びついている。AIの信頼性に関する特性に関連する具体的な指標や、その指標の正確な閾値を決定する際には、人間の判断が用いられるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Addressing AI trustworthiness characteristics individually will not ensure AI system trustworthiness; tradeoffs are usually involved, rarely do all characteristics apply in every setting, and some will be more or less important in any given situation. Ultimately, trustworthiness is a social concept that ranges across a spectrum and is only as strong as its weakest characteristics.",
          "translation_text": "AIの信頼性に関する特性に個別に対処するだけでは、AIシステムの信頼性は確保されない。通常はトレードオフが伴い、すべての特性があらゆる状況において当てはまることは稀であり、ある状況によっては特定の特性がより重要になったり、逆に重要性が低くなったりする。最終的に、信頼性とは、ある幅を持つスペクトルにまたがる社会的な概念であり、その強さは最も弱い特性によって規定される。",
          "translation_html": "AIの信頼性に関する特性に個別に対処するだけでは、AIシステムの信頼性は確保されない。通常はトレードオフが伴い、すべての特性があらゆる状況において当てはまることは稀であり、ある状況によっては特定の特性がより重要になったり、逆に重要性が低くなったりする。最終的に、信頼性とは、ある幅を持つスペクトルにまたがる社会的な概念であり、その強さは最も弱い特性によって規定される。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "When managing AI risks, organizations can face difficult decisions in balancing these characteristics. For example, in certain scenarios tradeoffs may emerge between optimizing for interpretability and achieving privacy. In other cases, organizations might face a tradeoff between predictive accuracy and interpretability. Or, under certain conditions such as data sparsity, privacy-enhancing techniques can result in a loss in accuracy, affecting decisions about fairness and other values in certain domains. Dealing with tradeoffs requires taking into account the decision-making context. These analyses can highlight the existence and extent of tradeoffs between different measures, but they do not answer questions about how to navigate the tradeoff. Those depend on the values at play in the relevant context and should be resolved in a manner that is both transparent and appropriately justifiable.",
          "translation_text": "AIリスクを管理するにあたり、組織はこれらの特性のバランスを取る上で難しい判断を迫られることがある。例えば、ある種の状況では、解釈可能性の最適化とプライバシーの達成との間にトレードオフが生じることがある。また別の場合には、組織は予測精度と解釈可能性との間のトレードオフに直面することもある。あるいは、データの疎性など特定の条件下では、プライバシー強化技術が精度の低下をもたらし、特定の領域における公平性やその他の価値観に関する判断に影響を及ぼすことがある。トレードオフに対処するには、意思決定の文脈を考慮に入れる必要がある。こうした分析は、異なる測定指標間のトレードオフの存在とその程度を明らかにすることはできるが、そのトレードオフをどのように舵取りすべきかという問いには答えない。それは、関連する文脈において働いている価値観に依存するものであり、透明で、かつ適切に正当化できる形で解決されるべきである。",
          "translation_html": "AIリスクを管理するにあたり、組織はこれらの特性のバランスを取る上で難しい判断を迫られることがある。例えば、ある種の状況では、解釈可能性の最適化とプライバシーの達成との間にトレードオフが生じることがある。また別の場合には、組織は予測精度と解釈可能性との間のトレードオフに直面することもある。あるいは、データの疎性など特定の条件下では、プライバシー強化技術が精度の低下をもたらし、特定の領域における公平性やその他の価値観に関する判断に影響を及ぼすことがある。トレードオフに対処するには、意思決定の文脈を考慮に入れる必要がある。こうした分析は、異なる測定指標間のトレードオフの存在とその程度を明らかにすることはできるが、そのトレードオフをどのように舵取りすべきかという問いには答えない。それは、関連する文脈において働いている価値観に依存するものであり、透明で、かつ適切に正当化できる形で解決されるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "There are multiple approaches for enhancing contextual awareness in the AI lifecycle. For example, subject matter experts can assist in the evaluation of TEVV findings and work with product and deployment teams to align TEVV parameters to requirements and deployment conditions. When properly resourced, increasing the breadth and diversity of input from interested parties and relevant AI actors throughout the AI lifecycle can enhance opportunities for informing contextually sensitive evaluations, and for identifying AI system benefits and positive impacts. These practices can increase the likelihood that risks arising in social contexts are managed appropriately.",
          "translation_text": "AIライフサイクルにおける文脈への感度を高めるためのアプローチは複数存在する。例えば、専門的知見を持つ者がTEVVの結果の評価を支援し、製品チームや展開チームと連携してTEVVのパラメータを要件や展開条件に整合させることができる。適切なリソースが投じられれば、AIライフサイクル全体を通じて関係者や関連するAIアクターからの意見の幅と多様性を高めることは、文脈に即した評価に情報を与える機会や、AIシステムの便益と正の影響を特定する機会を増やすことができる。こうした実践は、社会的な文脈において生じるリスクが適切に管理される可能性を高めることができる。",
          "translation_html": "AIライフサイクルにおける文脈への感度を高めるためのアプローチは複数存在する。例えば、専門的知見を持つ者がTEVVの結果の評価を支援し、製品チームや展開チームと連携してTEVVのパラメータを要件や展開条件に整合させることができる。適切なリソースが投じられれば、AIライフサイクル全体を通じて関係者や関連するAIアクターからの意見の幅と多様性を高めることは、文脈に即した評価に情報を与える機会や、AIシステムの便益と正の影響を特定する機会を増やすことができる。こうした実践は、社会的な文脈において生じるリスクが適切に管理される可能性を高めることができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Understanding and treatment of trustworthiness characteristics depends on an AI actor’s particular role within the AI lifecycle. For any given AI system, an AI designer or developer may have a different perception of the characteristics than the deployer.",
          "translation_text": "信頼性に関する特性の理解と扱いは、AIライフサイクルにおけるAIアクターの特定の役割によって異なる。特定のAIシステムについて、AIの設計者や開発者は、展開者とは異なる形でこれらの特性を認識する場合がある。",
          "translation_html": "信頼性に関する特性の理解と扱いは、AIライフサイクルにおけるAIアクターの特定の役割によって異なる。特定のAIシステムについて、AIの設計者や開発者は、展開者とは異なる形でこれらの特性を認識する場合がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Trustworthiness characteristics explained in this document influence each other. Highly secure but unfair systems, accurate but opaque and uninterpretable systems, and inaccurate but secure, privacy-enhanced, and transparent systems are all undesirable. A comprehensive approach to risk management calls for balancing tradeoffs among the trustworthiness characteristics. It is the joint responsibility of all AI actors to determine whether AI technology is an appropriate or necessary tool for a given context or purpose, and how to use it responsibly. The decision to commission or deploy an AI system should be based on a contextual assessment of trustworthiness characteristics and the relative risks, impacts, costs, and benefits, and informed by a broad set of interested parties.",
          "translation_text": "本書で説明する信頼性の特性は、互いに影響し合う。高度にセキュアであるが不公平なシステム、正確であるが不透明で解釈不能なシステム、そして不正確であるがセキュアでプライバシーに配慮され透明性のあるシステムは、いずれも望ましくない。リスクマネジメントへの包括的なアプローチには、信頼性の特性間のトレードオフのバランスを取ることが求められる。AI技術が特定の文脈や目的にとって適切または必要なツールであるかどうか、そしてそれをどのように責任を持って利用するかを判断することは、すべてのAIアクターの共同の責任である。AIシステムの導入や展開の意思決定は、信頼性の特性、および相対的なリスク、影響、コスト、便益についての文脈に即した評価に基づき、幅広い関係者からの情報を踏まえて行われるべきである。",
          "translation_html": "本書で説明する信頼性の特性は、互いに影響し合う。高度にセキュアであるが不公平なシステム、正確であるが不透明で解釈不能なシステム、そして不正確であるがセキュアでプライバシーに配慮され透明性のあるシステムは、いずれも望ましくない。リスクマネジメントへの包括的なアプローチには、信頼性の特性間のトレードオフのバランスを取ることが求められる。AI技術が特定の文脈や目的にとって適切または必要なツールであるかどうか、そしてそれをどのように責任を持って利用するかを判断することは、すべてのAIアクターの共同の責任である。AIシステムの導入や展開の意思決定は、信頼性の特性、および相対的なリスク、影響、コスト、便益についての文脈に即した評価に基づき、幅広い関係者からの情報を踏まえて行われるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.1     Valid and Reliable",
          "translation_text": "3.1     妥当性と信頼性",
          "translation_html": "3.1     妥当性と信頼性"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Validation is the “confirmation, through the provision of objective evidence, that the requirements for a specific intended use or application have been fulfilled” (Source: ISO 9000:2015). Deployment of AI systems which are inaccurate, unreliable, or poorly generalized to data and settings beyond their training creates and increases negative AI risks and reduces trustworthiness.",
          "translation_text": "妥当性確認（バリデーション）とは、「客観的な証拠の提供を通じて、特定の意図された用途または適用についての要件が満たされていることを確認すること」である（出典：ISO 9000:2015）。不正確であったり、信頼性が低かったり、訓練の範囲を超えたデータや状況への汎化が不十分であったりするAIシステムを展開することは、負のAIリスクを生み出し増大させ、信頼性を低下させる。",
          "translation_html": "妥当性確認（バリデーション）とは、「客観的な証拠の提供を通じて、特定の意図された用途または適用についての要件が満たされていることを確認すること」である（出典：ISO 9000:2015）。不正確であったり、信頼性が低かったり、訓練の範囲を超えたデータや状況への汎化が不十分であったりするAIシステムを展開することは、負のAIリスクを生み出し増大させ、信頼性を低下させる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Reliability is defined in the same standard as the “ability of an item to perform as required, without failure, for a given time interval, under given conditions” (Source: ISO / IEC TS 5723:2022). Reliability is a goal for overall correctness of AI system operation under the conditions of expected use and over a given period of time, including the entire lifetime of the system.",
          "translation_text": "信頼性（リライアビリティ）は、同じ標準において「所与の条件のもとで、所与の時間間隔にわたり、故障することなく要求どおりに機能するアイテムの能力」と定義されている（出典：ISO/IEC TS 5723:2022）。信頼性とは、想定される利用条件のもと、システムの寿命全体を含む所与の期間にわたって、AIシステムの運用全体としての正確性を確保することを目標とするものである。",
          "translation_html": "信頼性（リライアビリティ）は、同じ標準において「所与の条件のもとで、所与の時間間隔にわたり、故障することなく要求どおりに機能するアイテムの能力」と定義されている（出典：ISO/IEC TS 5723:2022）。信頼性とは、想定される利用条件のもと、システムの寿命全体を含む所与の期間にわたって、AIシステムの運用全体としての正確性を確保することを目標とするものである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Accuracy and robustness contribute to the validity and trustworthiness of AI systems, and can be in tension with one another in AI systems.",
          "translation_text": "正確性と堅牢性は、AIシステムの妥当性と信頼性に寄与するものであるが、AIシステムにおいては互いに緊張関係にある場合がある。",
          "translation_html": "正確性と堅牢性は、AIシステムの妥当性と信頼性に寄与するものであるが、AIシステムにおいては互いに緊張関係にある場合がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Accuracy is defined by ISO / IEC TS 5723:2022 as “closeness of results of observations, computations, or estimates to the true values or the values accepted as being true.” Measures of accuracy should consider computational-centric measures (e.g., false positive and false negative rates), human-AI teaming, and demonstrate external validity (generalizable beyond the training conditions). Accuracy measurements should always be paired with clearly defined and realistic test sets – that are representative of conditions of expected use – and details about test methodology; these should be included in associated documentation. Accuracy measurements may include disaggregation of results for different data segments.",
          "translation_text": "正確性は、ISO/IEC TS 5723:2022において「観測、計算、または推定の結果が、真の値または真であると受け入れられている値にどれだけ近いか」と定義されている。正確性の測定にあたっては、計算中心の指標（例えば偽陽性率や偽陰性率）、人間とAIのチーミング、そして（訓練条件を超えて一般化可能であるという）外的妥当性を考慮すべきである。正確性の測定は、想定される利用条件を代表する、明確に定義された現実的なテストセット、および試験手法に関する詳細と常に併せて示されるべきであり、これらは関連する文書に含まれるべきである。正確性の測定には、異なるデータセグメントごとの結果の分解を含めることができる。",
          "translation_html": "正確性は、ISO/IEC TS 5723:2022において「観測、計算、または推定の結果が、真の値または真であると受け入れられている値にどれだけ近いか」と定義されている。正確性の測定にあたっては、計算中心の指標（例えば偽陽性率や偽陰性率）、人間とAIのチーミング、そして（訓練条件を超えて一般化可能であるという）外的妥当性を考慮すべきである。正確性の測定は、想定される利用条件を代表する、明確に定義された現実的なテストセット、および試験手法に関する詳細と常に併せて示されるべきであり、これらは関連する文書に含まれるべきである。正確性の測定には、異なるデータセグメントごとの結果の分解を含めることができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Robustness or generalizability is defined as the “ability of a system to maintain its level of performance under a variety of circumstances” (Source: ISO / IEC TS 5723:2022). Robustness is a goal for appropriate system functionality in a broad set of conditions and circumstances, including uses of AI systems not initially anticipated. Robustness requires not only that the system perform exactly as it does under expected uses, but also that it should perform in ways that minimize potential harms to people if it is operating in an unexpected setting.",
          "translation_text": "堅牢性または汎化可能性は、「様々な状況下で性能の水準を維持するシステムの能力」と定義される（出典：ISO/IEC TS 5723:2022）。堅牢性とは、当初想定されていなかったAIシステムの利用も含め、幅広い条件や状況において適切なシステム機能を確保することを目標とするものである。堅牢性には、想定される利用のもとで期待どおりに機能することだけでなく、想定外の状況で運用されている場合にも人々への潜在的な害を最小化するように機能することも求められる。",
          "translation_html": "堅牢性または汎化可能性は、「様々な状況下で性能の水準を維持するシステムの能力」と定義される（出典：ISO/IEC TS 5723:2022）。堅牢性とは、当初想定されていなかったAIシステムの利用も含め、幅広い条件や状況において適切なシステム機能を確保することを目標とするものである。堅牢性には、想定される利用のもとで期待どおりに機能することだけでなく、想定外の状況で運用されている場合にも人々への潜在的な害を最小化するように機能することも求められる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Validity and reliability for deployed AI systems are often assessed by ongoing testing or monitoring that confirms a system is performing as intended. Measurement of validity, accuracy, robustness, and reliability contribute to trustworthiness and should take into consideration that certain types of failures can cause greater harm. AI risk management efforts should prioritize the minimization of potential negative impacts, and may need to include human intervention in cases where the AI system cannot detect or correct errors.",
          "translation_text": "展開されたAIシステムの妥当性と信頼性は、システムが意図したとおりに機能していることを確認する継続的なテストやモニタリングによって評価されることが多い。妥当性、正確性、堅牢性、信頼性の測定は信頼性（トラストワーシネス）に寄与するものであり、特定の種類の障害がより大きな害を引き起こしうることを考慮すべきである。AIリスクマネジメントの取り組みは、潜在的な負の影響の最小化を優先すべきであり、AIシステムが誤りを検知または修正できない場合には、人間の介入を含める必要が生じることもある。",
          "translation_html": "展開されたAIシステムの妥当性と信頼性は、システムが意図したとおりに機能していることを確認する継続的なテストやモニタリングによって評価されることが多い。妥当性、正確性、堅牢性、信頼性の測定は信頼性（トラストワーシネス）に寄与するものであり、特定の種類の障害がより大きな害を引き起こしうることを考慮すべきである。AIリスクマネジメントの取り組みは、潜在的な負の影響の最小化を優先すべきであり、AIシステムが誤りを検知または修正できない場合には、人間の介入を含める必要が生じることもある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.2    Safe",
          "translation_text": "3.2    安全性",
          "translation_html": "3.2    安全性"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI systems should “not under defined conditions, lead to a state in which human life, health, property, or the environment is endangered” (Source: ISO / IEC TS 5723:2022). Safe operation of AI systems is improved through:",
          "translation_text": "AIシステムは、「定められた条件下において、人の生命、健康、財産、または環境が危険にさらされる状態をもたらしてはならない」（出典：ISO/IEC TS 5723:2022）。AIシステムの安全な運用は、以下によって向上する。",
          "translation_html": "AIシステムは、「定められた条件下において、人の生命、健康、財産、または環境が危険にさらされる状態をもたらしてはならない」（出典：ISO/IEC TS 5723:2022）。AIシステムの安全な運用は、以下によって向上する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• responsible design, development, and deployment practices;",
          "translation_text": "• 責任ある設計、開発、展開の実践",
          "translation_html": "• 責任ある設計、開発、展開の実践"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• clear information to deployers on responsible use of the system;",
          "translation_text": "• システムの責任ある利用に関する展開者への明確な情報提供",
          "translation_html": "• システムの責任ある利用に関する展開者への明確な情報提供"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• responsible decision-making by deployers and end users; and",
          "translation_text": "• 展開者およびエンドユーザーによる責任ある意思決定",
          "translation_html": "• 展開者およびエンドユーザーによる責任ある意思決定"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• explanations and documentation of risks based on empirical evidence of incidents.",
          "translation_text": "• インシデントの経験的証拠に基づくリスクの説明と文書化",
          "translation_html": "• インシデントの経験的証拠に基づくリスクの説明と文書化"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Different types of safety risks may require tailored AI risk management approaches based on context and the severity of potential risks presented. Safety risks that pose a potential risk of serious injury or death call for the most urgent prioritization and most thorough risk management process.",
          "translation_text": "安全性に関するリスクの種類は様々であり、文脈や、想定される潜在的リスクの深刻度に応じて、それぞれに合わせたAIリスクマネジメントのアプローチが必要となる場合がある。重大な傷害や死亡につながる可能性のある安全リスクは、最も緊急の優先順位付けと最も徹底したリスクマネジメントのプロセスを必要とする。",
          "translation_html": "安全性に関するリスクの種類は様々であり、文脈や、想定される潜在的リスクの深刻度に応じて、それぞれに合わせたAIリスクマネジメントのアプローチが必要となる場合がある。重大な傷害や死亡につながる可能性のある安全リスクは、最も緊急の優先順位付けと最も徹底したリスクマネジメントのプロセスを必要とする。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Employing safety considerations during the lifecycle and starting as early as possible with planning and design can prevent failures or conditions that can render a system dangerous. Other practical approaches for AI safety often relate to rigorous simulation and in-domain testing, real-time monitoring, and the ability to shut down, modify, or have human intervention into systems that deviate from intended or expected functionality.",
          "translation_text": "ライフサイクルを通じて安全性に関する配慮を行い、できるだけ早期の計画・設計段階からそれを開始することで、システムを危険なものにしうる障害や状況を防ぐことができる。AIの安全性に関するその他の実践的なアプローチとしては、厳密なシミュレーションおよび当該領域内でのテスト、リアルタイムのモニタリング、そして意図した機能や期待される機能から逸脱したシステムを停止・修正する、あるいは人間が介入する能力に関するものが多い。",
          "translation_html": "ライフサイクルを通じて安全性に関する配慮を行い、できるだけ早期の計画・設計段階からそれを開始することで、システムを危険なものにしうる障害や状況を防ぐことができる。AIの安全性に関するその他の実践的なアプローチとしては、厳密なシミュレーションおよび当該領域内でのテスト、リアルタイムのモニタリング、そして意図した機能や期待される機能から逸脱したシステムを停止・修正する、あるいは人間が介入する能力に関するものが多い。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI safety risk management approaches should take cues from efforts and guidelines for safety in fields such as transportation and healthcare, and align with existing sector- or application-specific guidelines or standards.",
          "translation_text": "AIの安全性に関するリスクマネジメントのアプローチは、交通や医療といった分野における安全性についての取り組みやガイドラインを参考にし、既存のセクター別またはアプリケーション別のガイドラインや標準と整合させるべきである。",
          "translation_html": "AIの安全性に関するリスクマネジメントのアプローチは、交通や医療といった分野における安全性についての取り組みやガイドラインを参考にし、既存のセクター別またはアプリケーション別のガイドラインや標準と整合させるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.3   Secure and Resilient",
          "translation_text": "3.3   セキュリティとレジリエンス",
          "translation_html": "3.3   セキュリティとレジリエンス"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI systems, as well as the ecosystems in which they are deployed, may be said to be resilient if they can withstand unexpected adverse events or unexpected changes in their environment or use – or if they can maintain their functions and structure in the face of internal and external change and degrade safely and gracefully when this is necessary (Adapted from: ISO / IEC TS 5723:2022). Common security concerns relate to adversarial examples, data poisoning, and the exfiltration of models, training data, or other intellectual property through AI system endpoints. AI systems that can maintain confidentiality, integrity, and availability through protection mechanisms that prevent unauthorized access and use may be said to be secure. Guidelines in the NIST Cybersecurity Framework and Risk Management Framework are among those which are applicable here.",
          "translation_text": "AIシステムおよびそれが展開されるエコシステムは、予期しない有害事象や環境・利用における予期しない変化に耐えることができる場合、あるいは内的・外的な変化に直面してもその機能と構造を維持し、必要な場合には安全かつ緩やかに性能を低下させることができる場合に、レジリエントであると言える（出典：ISO/IEC TS 5723:2022を改変）。一般的なセキュリティ上の懸念としては、敵対的サンプル、データポイズニング、そしてAIシステムのエンドポイントを通じたモデル、訓練データ、その他の知的財産の外部流出などが挙げられる。不正なアクセスや利用を防止する保護機構によって機密性、完全性、可用性を維持できるAIシステムは、セキュアであると言える。NISTサイバーセキュリティフレームワークおよびリスクマネジメントフレームワークにおけるガイドラインは、ここで適用可能なものの一つである。",
          "translation_html": "AIシステムおよびそれが展開されるエコシステムは、予期しない有害事象や環境・利用における予期しない変化に耐えることができる場合、あるいは内的・外的な変化に直面してもその機能と構造を維持し、必要な場合には安全かつ緩やかに性能を低下させることができる場合に、レジリエントであると言える（出典：ISO/IEC TS 5723:2022を改変）。一般的なセキュリティ上の懸念としては、敵対的サンプル、データポイズニング、そしてAIシステムのエンドポイントを通じたモデル、訓練データ、その他の知的財産の外部流出などが挙げられる。不正なアクセスや利用を防止する保護機構によって機密性、完全性、可用性を維持できるAIシステムは、セキュアであると言える。NISTサイバーセキュリティフレームワークおよびリスクマネジメントフレームワークにおけるガイドラインは、ここで適用可能なものの一つである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Security and resilience are related but distinct characteristics. While resilience is the ability to return to normal function after an unexpected adverse event, security includes resilience but also encompasses protocols to avoid, protect against, respond to, or recover from attacks. Resilience relates to robustness and goes beyond the provenance of the data to encompass unexpected or adversarial use (or abuse or misuse) of the model or data.",
          "translation_text": "セキュリティとレジリエンスは関連しているが、異なる特性である。レジリエンスは予期しない有害事象の後に通常の機能へ復帰する能力であるのに対し、セキュリティはレジリエンスを含みつつ、攻撃を回避し、それから保護し、それに対応し、それから復旧するためのプロトコルも包含する。レジリエンスは堅牢性に関連するものであり、データの出所にとどまらず、モデルやデータの予期しない、あるいは敵対的な利用（あるいは濫用や誤用）にも及ぶ。",
          "translation_html": "セキュリティとレジリエンスは関連しているが、異なる特性である。レジリエンスは予期しない有害事象の後に通常の機能へ復帰する能力であるのに対し、セキュリティはレジリエンスを含みつつ、攻撃を回避し、それから保護し、それに対応し、それから復旧するためのプロトコルも包含する。レジリエンスは堅牢性に関連するものであり、データの出所にとどまらず、モデルやデータの予期しない、あるいは敵対的な利用（あるいは濫用や誤用）にも及ぶ。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.4   Accountable and Transparent",
          "translation_text": "3.4   アカウンタビリティと透明性",
          "translation_html": "3.4   アカウンタビリティと透明性"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Trustworthy AI depends upon accountability. Accountability presupposes transparency. Transparency reflects the extent to which information about an AI system and its outputs is available to individuals interacting with such a system – regardless of whether they are even aware that they are doing so. Meaningful transparency provides access to appropriate levels of information based on the stage of the AI lifecycle and tailored to the role or knowledge of AI actors or individuals interacting with or using the AI system. By promoting higher levels of understanding, transparency increases confidence in the AI system.",
          "translation_text": "信頼できるAIはアカウンタビリティに依拠する。アカウンタビリティは透明性を前提とする。透明性とは、AIシステムとやり取りする個人——自らがそうしていることに気づいているかどうかにかかわらず——に対し、AIシステムおよびその出力に関する情報がどの程度利用可能であるかを反映するものである。意味のある透明性は、AIライフサイクルの段階に応じ、かつAIシステムとやり取りする、あるいはこれを利用するAIアクターや個人の役割や知識に合わせて調整された、適切な水準の情報へのアクセスを提供する。透明性は、より高い水準の理解を促進することにより、AIシステムに対する信頼を高める。",
          "translation_html": "信頼できるAIはアカウンタビリティに依拠する。アカウンタビリティは透明性を前提とする。透明性とは、AIシステムとやり取りする個人——自らがそうしていることに気づいているかどうかにかかわらず——に対し、AIシステムおよびその出力に関する情報がどの程度利用可能であるかを反映するものである。意味のある透明性は、AIライフサイクルの段階に応じ、かつAIシステムとやり取りする、あるいはこれを利用するAIアクターや個人の役割や知識に合わせて調整された、適切な水準の情報へのアクセスを提供する。透明性は、より高い水準の理解を促進することにより、AIシステムに対する信頼を高める。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "This characteristic’s scope spans from design decisions and training data to model training, the structure of the model, its intended use cases, and how and when deployment, post-deployment, or end user decisions were made and by whom. Transparency is often necessary for actionable redress related to AI system outputs that are incorrect or otherwise lead to negative impacts. Transparency should consider human-AI interaction: for example, how a human operator or user is notified when a potential or actual adverse outcome caused by an AI system is detected. A transparent system is not necessarily an accurate, privacy-enhanced, secure, or fair system. However, it is difficult to determine whether an opaque system possesses such characteristics, and to do so over time as complex systems evolve.",
          "translation_text": "この特性の範囲は、設計上の決定や訓練データから、モデルの訓練、モデルの構造、その意図された利用事例、そして展開時、展開後、またはエンドユーザーによる意思決定がいつ、どのように、誰によって行われたかにまで及ぶ。透明性は、誤った、あるいはその他の形で負の影響をもたらすAIシステムの出力に関して、実効的な救済を行う上でしばしば必要となる。透明性は、人間とAIの相互作用も考慮すべきである。例えば、AIシステムによって引き起こされた潜在的または実際の有害な結果が検知された際に、人間の操作者や利用者にどのように通知されるかなどである。透明なシステムが必ずしも正確で、プライバシーに配慮され、セキュアで、または公平なシステムであるとは限らない。しかし、不透明なシステムがこうした特性を備えているかどうかを判断すること、また複雑なシステムが進化していく中でそれを継続的に判断することは困難である。",
          "translation_html": "この特性の範囲は、設計上の決定や訓練データから、モデルの訓練、モデルの構造、その意図された利用事例、そして展開時、展開後、またはエンドユーザーによる意思決定がいつ、どのように、誰によって行われたかにまで及ぶ。透明性は、誤った、あるいはその他の形で負の影響をもたらすAIシステムの出力に関して、実効的な救済を行う上でしばしば必要となる。透明性は、人間とAIの相互作用も考慮すべきである。例えば、AIシステムによって引き起こされた潜在的または実際の有害な結果が検知された際に、人間の操作者や利用者にどのように通知されるかなどである。透明なシステムが必ずしも正確で、プライバシーに配慮され、セキュアで、または公平なシステムであるとは限らない。しかし、不透明なシステムがこうした特性を備えているかどうかを判断すること、また複雑なシステムが進化していく中でそれを継続的に判断することは困難である。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The role of AI actors should be considered when seeking accountability for the outcomes of AI systems. The relationship between risk and accountability associated with AI and technological systems more broadly differs across cultural, legal, sectoral, and societal contexts. When consequences are severe, such as when life and liberty are at stake, AI developers and deployers should consider proportionally and proactively adjusting their transparency and accountability practices. Maintaining organizational practices and governing structures for harm reduction, like risk management, can help lead to more accountable systems.",
          "translation_text": "AIシステムの結果についてアカウンタビリティを追求する際には、AIアクターの役割が考慮されるべきである。AIおよびより広く技術システムに伴うリスクとアカウンタビリティの関係は、文化的、法的、セクター的、社会的文脈によって異なる。生命や自由が懸かっているなど結果が深刻である場合、AI開発者や展開者は、自らの透明性やアカウンタビリティの実践を、比例的かつ事前対応的に調整することを検討すべきである。リスクマネジメントのような、害の低減のための組織的な実践やガバナンス構造を維持することは、よりアカウンタブルなシステムの実現につながりうる。",
          "translation_html": "AIシステムの結果についてアカウンタビリティを追求する際には、AIアクターの役割が考慮されるべきである。AIおよびより広く技術システムに伴うリスクとアカウンタビリティの関係は、文化的、法的、セクター的、社会的文脈によって異なる。生命や自由が懸かっているなど結果が深刻である場合、AI開発者や展開者は、自らの透明性やアカウンタビリティの実践を、比例的かつ事前対応的に調整することを検討すべきである。リスクマネジメントのような、害の低減のための組織的な実践やガバナンス構造を維持することは、よりアカウンタブルなシステムの実現につながりうる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Measures to enhance transparency and accountability should also consider the impact of these efforts on the implementing entity, including the level of necessary resources and the need to safeguard proprietary information.",
          "translation_text": "透明性とアカウンタビリティを高めるための措置においては、こうした取り組みが実施主体に及ぼす影響、すなわち必要となるリソースの水準や、専有情報を保護する必要性についても考慮すべきである。",
          "translation_html": "透明性とアカウンタビリティを高めるための措置においては、こうした取り組みが実施主体に及ぼす影響、すなわち必要となるリソースの水準や、専有情報を保護する必要性についても考慮すべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Maintaining the provenance of training data and supporting attribution of the AI system’s decisions to subsets of training data can assist with both transparency and accountability. Training data may also be subject to copyright and should follow applicable intellectual property rights laws.",
          "translation_text": "訓練データの出所（プロベナンス）を維持し、AIシステムの意思決定を訓練データのサブセットに帰属させられるようにすることは、透明性とアカウンタビリティの双方に寄与しうる。訓練データは著作権の対象となる場合もあり、適用可能な知的財産権に関する法律に従うべきである。",
          "translation_html": "訓練データの出所（プロベナンス）を維持し、AIシステムの意思決定を訓練データのサブセットに帰属させられるようにすることは、透明性とアカウンタビリティの双方に寄与しうる。訓練データは著作権の対象となる場合もあり、適用可能な知的財産権に関する法律に従うべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "As transparency tools for AI systems and related documentation continue to evolve, developers of AI systems are encouraged to test different types of transparency tools in cooperation with AI deployers to ensure that AI systems are used as intended.",
          "translation_text": "AIシステムのための透明性ツールおよび関連する文書化が今後も発展し続ける中で、AIシステムの開発者は、AIシステムが意図したとおりに利用されることを確保するため、AI展開者と協力して様々な種類の透明性ツールを試すことが推奨される。",
          "translation_html": "AIシステムのための透明性ツールおよび関連する文書化が今後も発展し続ける中で、AIシステムの開発者は、AIシステムが意図したとおりに利用されることを確保するため、AI展開者と協力して様々な種類の透明性ツールを試すことが推奨される。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.5   Explainable and Interpretable",
          "translation_text": "3.5   説明可能性と解釈可能性",
          "translation_html": "3.5   説明可能性と解釈可能性"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Explainability refers to a representation of the mechanisms underlying AI systems’ operation, whereas interpretability refers to the meaning of AI systems’ output in the context of their designed functional purposes. Together, explainability and interpretability assist those operating or overseeing an AI system, as well as users of an AI system, to gain deeper insights into the functionality and trustworthiness of the system, including its outputs. The underlying assumption is that perceptions of negative risk stem from a lack of ability to make sense of, or contextualize, system output appropriately. Explainable and interpretable AI systems offer information that will help end users understand the purposes and potential impact of an AI system.",
          "translation_text": "説明可能性とは、AIシステムの動作の根底にある仕組みの表現を指し、解釈可能性とは、AIシステムの出力が、その設計上の機能目的の文脈においてどのような意味を持つかを指す。説明可能性と解釈可能性は、両者相まって、AIシステムを操作または監督する者、そしてAIシステムの利用者が、当該システムの機能性や信頼性——その出力を含む——について、より深い洞察を得る助けとなる。その根底にある前提は、負のリスクについての認識が、システムの出力を適切に理解し、文脈に位置づける能力の欠如から生じるというものである。説明可能で解釈可能なAIシステムは、エンドユーザーがAIシステムの目的と潜在的な影響を理解する助けとなる情報を提供する。",
          "translation_html": "説明可能性とは、AIシステムの動作の根底にある仕組みの表現を指し、解釈可能性とは、AIシステムの出力が、その設計上の機能目的の文脈においてどのような意味を持つかを指す。説明可能性と解釈可能性は、両者相まって、AIシステムを操作または監督する者、そしてAIシステムの利用者が、当該システムの機能性や信頼性——その出力を含む——について、より深い洞察を得る助けとなる。その根底にある前提は、負のリスクについての認識が、システムの出力を適切に理解し、文脈に位置づける能力の欠如から生じるというものである。説明可能で解釈可能なAIシステムは、エンドユーザーがAIシステムの目的と潜在的な影響を理解する助けとなる情報を提供する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risk from lack of explainability may be managed by describing how AI systems function, with descriptions tailored to individual differences such as the user’s role, knowledge, and skill level. Explainable systems can be debugged and monitored more easily, and they lend themselves to more thorough documentation, audit, and governance.",
          "translation_text": "説明可能性の欠如によるリスクは、利用者の役割、知識、技能水準といった個人差に合わせて調整された説明を用いて、AIシステムがどのように機能するかを説明することによって管理できる場合がある。説明可能なシステムはより容易にデバッグやモニタリングを行うことができ、より徹底した文書化、監査、ガバナンスにも適している。",
          "translation_html": "説明可能性の欠如によるリスクは、利用者の役割、知識、技能水準といった個人差に合わせて調整された説明を用いて、AIシステムがどのように機能するかを説明することによって管理できる場合がある。説明可能なシステムはより容易にデバッグやモニタリングを行うことができ、より徹底した文書化、監査、ガバナンスにも適している。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risks to interpretability often can be addressed by communicating a description of why an AI system made a particular prediction or recommendation. (See “Four Principles of Explainable Artificial Intelligence” and “Psychological Foundations of Explainability and Interpretability in Artificial Intelligence” found here.)",
          "translation_text": "解釈可能性に関するリスクは、AIシステムがなぜ特定の予測や推奨を行ったのかについての説明を伝えることによって、多くの場合対処することができる。（“Four Principles of Explainable Artificial Intelligence” および “Psychological Foundations of Explainability and Interpretability in Artificial Intelligence” を参照。）",
          "translation_html": "解釈可能性に関するリスクは、AIシステムがなぜ特定の予測や推奨を行ったのかについての説明を伝えることによって、多くの場合対処することができる。（“Four Principles of Explainable Artificial Intelligence” および “Psychological Foundations of Explainability and Interpretability in Artificial Intelligence” を参照。）"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Transparency, explainability, and interpretability are distinct characteristics that support each other. Transparency can answer the question of “what happened” in the system. Explainability can answer the question of “how” a decision was made in the system. Interpretability can answer the question of “why” a decision was made by the system and its meaning or context to the user.",
          "translation_text": "透明性、説明可能性、解釈可能性は、互いに支え合う別個の特性である。透明性は、システムにおいて「何が起きたか」という問いに答えることができる。説明可能性は、システムにおいてある決定が「どのように」下されたかという問いに答えることができる。解釈可能性は、システムによってある決定が「なぜ」下されたのか、そしてそれが利用者にとってどのような意味や文脈を持つのかという問いに答えることができる。",
          "translation_html": "透明性、説明可能性、解釈可能性は、互いに支え合う別個の特性である。透明性は、システムにおいて「何が起きたか」という問いに答えることができる。説明可能性は、システムにおいてある決定が「どのように」下されたかという問いに答えることができる。解釈可能性は、システムによってある決定が「なぜ」下されたのか、そしてそれが利用者にとってどのような意味や文脈を持つのかという問いに答えることができる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.6   Privacy-Enhanced",
          "translation_text": "3.6   プライバシーへの配慮",
          "translation_html": "3.6   プライバシーへの配慮"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Privacy refers generally to the norms and practices that help to safeguard human autonomy, identity, and dignity. These norms and practices typically address freedom from intrusion, limiting observation, or individuals’ agency to consent to disclosure or control of facets of their identities (e.g., body, data, reputation). (See The NIST Privacy Framework: A Tool for Improving Privacy through Enterprise Risk Management.)",
          "translation_text": "プライバシーとは、一般に、人間の自律性、アイデンティティ、尊厳の保護を助ける規範や実践を指す。こうした規範や実践は、通常、干渉からの自由、観察の制限、あるいは自らのアイデンティティの諸側面（身体、データ、評判など）の開示や管理に同意する個人の主体性といった事項を扱う。（The NIST Privacy Framework: A Tool for Improving Privacy through Enterprise Risk Management を参照。）",
          "translation_html": "プライバシーとは、一般に、人間の自律性、アイデンティティ、尊厳の保護を助ける規範や実践を指す。こうした規範や実践は、通常、干渉からの自由、観察の制限、あるいは自らのアイデンティティの諸側面（身体、データ、評判など）の開示や管理に同意する個人の主体性といった事項を扱う。（The NIST Privacy Framework: A Tool for Improving Privacy through Enterprise Risk Management を参照。）"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Privacy values such as anonymity, confidentiality, and control generally should guide choices for AI system design, development, and deployment. Privacy-related risks may influence security, bias, and transparency and come with tradeoffs with these other characteristics. Like safety and security, specific technical features of an AI system may promote or reduce privacy. AI systems can also present new risks to privacy by allowing inference to identify individuals or previously private information about individuals.",
          "translation_text": "匿名性、機密性、管理といったプライバシーに関する価値観は、一般に、AIシステムの設計、開発、展開に関する選択の指針となるべきである。プライバシーに関連するリスクは、セキュリティ、バイアス、透明性に影響を及ぼすことがあり、これらの他の特性とのトレードオフを伴う。安全性やセキュリティと同様に、AIシステムの特定の技術的特徴は、プライバシーを促進することもあれば、損なうこともある。AIシステムはまた、個人を特定したり、個人についてこれまで非公開であった情報を推論によって明らかにしたりすることを可能にすることで、プライバシーに対する新たなリスクをもたらす場合もある。",
          "translation_html": "匿名性、機密性、管理といったプライバシーに関する価値観は、一般に、AIシステムの設計、開発、展開に関する選択の指針となるべきである。プライバシーに関連するリスクは、セキュリティ、バイアス、透明性に影響を及ぼすことがあり、これらの他の特性とのトレードオフを伴う。安全性やセキュリティと同様に、AIシステムの特定の技術的特徴は、プライバシーを促進することもあれば、損なうこともある。AIシステムはまた、個人を特定したり、個人についてこれまで非公開であった情報を推論によって明らかにしたりすることを可能にすることで、プライバシーに対する新たなリスクをもたらす場合もある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Privacy-enhancing technologies (“PETs”) for AI, as well as data minimizing methods such as de-identification and aggregation for certain model outputs, can support design for privacy-enhanced AI systems. Under certain conditions such as data sparsity, privacyenhancing techniques can result in a loss in accuracy, affecting decisions about fairness and other values in certain domains.",
          "translation_text": "AI向けのプライバシー強化技術（“PETs”）、および特定のモデル出力に対する匿名化や集約といったデータ最小化手法は、プライバシーに配慮したAIシステムの設計を支援することができる。データの疎性など特定の条件下では、プライバシー強化技術が精度の低下をもたらし、特定の領域における公平性やその他の価値観に関する判断に影響を及ぼすことがある。",
          "translation_html": "AI向けのプライバシー強化技術（“PETs”）、および特定のモデル出力に対する匿名化や集約といったデータ最小化手法は、プライバシーに配慮したAIシステムの設計を支援することができる。データの疎性など特定の条件下では、プライバシー強化技術が精度の低下をもたらし、特定の領域における公平性やその他の価値観に関する判断に影響を及ぼすことがある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3.7   Fair – with Harmful Bias Managed",
          "translation_text": "3.7   公平性——有害なバイアスの管理",
          "translation_html": "3.7   公平性——有害なバイアスの管理"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Fairness in AI includes concerns for equality and equity by addressing issues such as harmful bias and discrimination. Standards of fairness can be complex and difficult to define because perceptions of fairness differ among cultures and may shift depending on application. Organizations’ risk management efforts will be enhanced by recognizing and considering these differences. Systems in which harmful biases are mitigated are not necessarily fair. For example, systems in which predictions are somewhat balanced across demographic groups may still be inaccessible to individuals with disabilities or affected by the digital divide or may exacerbate existing disparities or systemic biases.",
          "translation_text": "AIにおける公平性には、有害なバイアスや差別といった問題への対処を通じて、平等性および公平性（equality and equity）への配慮が含まれる。公平性の認識は文化によって異なり、用途によっても変化しうるため、公平性の基準は複雑で定義が難しい場合がある。組織のリスクマネジメントの取り組みは、こうした違いを認識し考慮することによって強化される。有害なバイアスが緩和されているシステムが、必ずしも公平であるとは限らない。例えば、予測がある程度人口統計上のグループ間でバランスが取れているシステムであっても、障害のある個人にとってはアクセスできないものであったり、デジタルデバイドの影響を受ける人々にとって利用しづらいものであったり、あるいは既存の格差や構造的なバイアスを悪化させたりする場合がある。",
          "translation_html": "AIにおける公平性には、有害なバイアスや差別といった問題への対処を通じて、平等性および公平性（equality and equity）への配慮が含まれる。公平性の認識は文化によって異なり、用途によっても変化しうるため、公平性の基準は複雑で定義が難しい場合がある。組織のリスクマネジメントの取り組みは、こうした違いを認識し考慮することによって強化される。有害なバイアスが緩和されているシステムが、必ずしも公平であるとは限らない。例えば、予測がある程度人口統計上のグループ間でバランスが取れているシステムであっても、障害のある個人にとってはアクセスできないものであったり、デジタルデバイドの影響を受ける人々にとって利用しづらいものであったり、あるいは既存の格差や構造的なバイアスを悪化させたりする場合がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Bias is broader than demographic balance and data representativeness. NIST has identified three major categories of AI bias to be considered and managed: systemic, computational and statistical, and human-cognitive. Each of these can occur in the absence of prejudice, partiality, or discriminatory intent. Systemic bias can be present in AI datasets, the organizational norms, practices, and processes across the AI lifecycle, and the broader society that uses AI systems. Computational and statistical biases can be present in AI datasets and algorithmic processes, and often stem from systematic errors due to non-representative samples. Human-cognitive biases relate to how an individual or group perceives AI system information to make a decision or fill in missing information, or how humans think about purposes and functions of an AI system. Human-cognitive biases are omnipresent in decision-making processes across the AI lifecycle and system use, including the design, implementation, operation, and maintenance of AI.",
          "translation_text": "バイアスは、人口統計上のバランスやデータの代表性よりも広い概念である。NISTは、検討し管理すべきAIバイアスの主要なカテゴリーとして、システム的バイアス、計算・統計的バイアス、そして人間の認知バイアスの3つを特定している。これらはいずれも、偏見、えこひいき、差別的な意図がなくとも生じうる。システム的バイアスは、AIのデータセット、AIライフサイクル全体にわたる組織の規範・実践・プロセス、そしてAIシステムを利用するより広い社会の中に存在しうる。計算・統計的バイアスは、AIのデータセットやアルゴリズムによる処理の中に存在しうるものであり、多くの場合、代表性のないサンプルに起因する系統的な誤りから生じる。人間の認知バイアスは、個人や集団がAIシステムの情報をどのように認識して意思決定を行うか、あるいは欠落した情報をどのように補うか、または人間がAIシステムの目的や機能についてどのように考えるかに関連する。人間の認知バイアスは、AIの設計、実装、運用、保守を含め、AIライフサイクルおよびシステムの利用全体にわたる意思決定プロセスに遍在している。",
          "translation_html": "バイアスは、人口統計上のバランスやデータの代表性よりも広い概念である。NISTは、検討し管理すべきAIバイアスの主要なカテゴリーとして、システム的バイアス、計算・統計的バイアス、そして人間の認知バイアスの3つを特定している。これらはいずれも、偏見、えこひいき、差別的な意図がなくとも生じうる。システム的バイアスは、AIのデータセット、AIライフサイクル全体にわたる組織の規範・実践・プロセス、そしてAIシステムを利用するより広い社会の中に存在しうる。計算・統計的バイアスは、AIのデータセットやアルゴリズムによる処理の中に存在しうるものであり、多くの場合、代表性のないサンプルに起因する系統的な誤りから生じる。人間の認知バイアスは、個人や集団がAIシステムの情報をどのように認識して意思決定を行うか、あるいは欠落した情報をどのように補うか、または人間がAIシステムの目的や機能についてどのように考えるかに関連する。人間の認知バイアスは、AIの設計、実装、運用、保守を含め、AIライフサイクルおよびシステムの利用全体にわたる意思決定プロセスに遍在している。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Bias exists in many forms and can become ingrained in the automated systems that help make decisions about our lives. While bias is not always a negative phenomenon, AI systems can potentially increase the speed and scale of biases and perpetuate and amplify harms to individuals, groups, communities, organizations, and society. Bias is tightly associated with the concepts of transparency as well as fairness in society. (For more information about bias, including the three categories, see NIST Special Publication 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence.)",
          "translation_text": "バイアスは様々な形で存在し、私たちの生活に関する意思決定を助ける自動化システムに組み込まれてしまうことがある。バイアスは必ずしも負の現象であるとは限らないが、AIシステムはバイアスの速度と規模を増大させ、個人、集団、コミュニティ、組織、社会への害を永続化させ増幅させる可能性がある。バイアスは、透明性の概念、そして社会における公平性の概念と密接に結びついている。（バイアス、および3つのカテゴリーについての詳細は、NIST Special Publication 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence を参照のこと。）",
          "translation_html": "バイアスは様々な形で存在し、私たちの生活に関する意思決定を助ける自動化システムに組み込まれてしまうことがある。バイアスは必ずしも負の現象であるとは限らないが、AIシステムはバイアスの速度と規模を増大させ、個人、集団、コミュニティ、組織、社会への害を永続化させ増幅させる可能性がある。バイアスは、透明性の概念、そして社会における公平性の概念と密接に結びついている。（バイアス、および3つのカテゴリーについての詳細は、NIST Special Publication 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence を参照のこと。）"
        }
      ]
    },
    {
      "id": "usg-s4_effectiveness",
      "heading": "4. Effectiveness of the AI RMF",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "4.    Effectiveness of the AI RMF Evaluations of AI RMF effectiveness – including ways to measure bottom-line improvements in the trustworthiness of AI systems – will be part of future NIST activities, in conjunction with the AI community.",
          "translation_text": "4.    AI RMFの有効性 AI RMFの有効性の評価――AIシステムの信頼性における実質的な改善を測定する方法を含む――は、AIコミュニティと連携しつつ、NISTの今後の活動の一部となる予定である。",
          "translation_html": "4.    AI RMFの有効性 AI RMFの有効性の評価――AIシステムの信頼性における実質的な改善を測定する方法を含む――は、AIコミュニティと連携しつつ、NISTの今後の活動の一部となる予定である。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Organizations and other users of the Framework are encouraged to periodically evaluate whether the AI RMF has improved their ability to manage AI risks, including but not limited to their policies, processes, practices, implementation plans, indicators, measurements, and expected outcomes. NIST intends to work collaboratively with others to develop metrics, methodologies, and goals for evaluating the AI RMF’s effectiveness, and to broadly share results and supporting information. Framework users are expected to benefit from:",
          "translation_text": "組織および本フレームワークのその他の利用者は、方針、プロセス、実務、実施計画、指標、測定、期待される成果などを含め、AI RMFによって自らのAIリスク管理能力が向上したかどうかを定期的に評価することが推奨される。NISTは、AI RMFの有効性を評価するための指標、方法論、目標を他の関係者と協働で策定し、その結果や関連情報を広く共有していく意向である。フレームワークの利用者には、以下のような効果が期待される。",
          "translation_html": "組織および本フレームワークのその他の利用者は、方針、プロセス、実務、実施計画、指標、測定、期待される成果などを含め、AI RMFによって自らのAIリスク管理能力が向上したかどうかを定期的に評価することが推奨される。NISTは、AI RMFの有効性を評価するための指標、方法論、目標を他の関係者と協働で策定し、その結果や関連情報を広く共有していく意向である。フレームワークの利用者には、以下のような効果が期待される。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• enhanced processes for governing, mapping, measuring, and managing AI risk, and clearly documenting outcomes;",
          "translation_text": "• AIリスクのガバナンス、マッピング、測定、および管理のためのプロセスが強化され、成果が明確に文書化されること。",
          "translation_html": "• AIリスクのガバナンス、マッピング、測定、および管理のためのプロセスが強化され、成果が明確に文書化されること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• improved awareness of the relationships and tradeoffs among trustworthiness characteristics, socio-technical approaches, and AI risks;",
          "translation_text": "• 信頼性の特性、社会技術的アプローチ、およびAIリスクの間の関係とトレードオフについての理解が深まること。",
          "translation_html": "• 信頼性の特性、社会技術的アプローチ、およびAIリスクの間の関係とトレードオフについての理解が深まること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• explicit processes for making go/no-go system commissioning and deployment decisions;",
          "translation_text": "• システムの採用可否および展開の可否を判断するための明示的なプロセスが確立されること。",
          "translation_html": "• システムの採用可否および展開の可否を判断するための明示的なプロセスが確立されること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• established policies, processes, practices, and procedures for improving organizational accountability efforts related to AI system risks;",
          "translation_text": "• AIシステムのリスクに関する組織の説明責任(アカウンタビリティ)の取り組みを改善するための方針、プロセス、実務、手順が確立されること。",
          "translation_html": "• AIシステムのリスクに関する組織の説明責任(アカウンタビリティ)の取り組みを改善するための方針、プロセス、実務、手順が確立されること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• enhanced organizational culture which prioritizes the identification and management of AI system risks and potential impacts to individuals, communities, organizations, and society;",
          "translation_text": "• AIシステムのリスクや、個人、コミュニティ、組織、社会への潜在的な影響の特定と管理を優先する組織文化が強化されること。",
          "translation_html": "• AIシステムのリスクや、個人、コミュニティ、組織、社会への潜在的な影響の特定と管理を優先する組織文化が強化されること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• better information sharing within and across organizations about risks, decisionmaking processes, responsibilities, common pitfalls, TEVV practices, and approaches for continuous improvement;",
          "translation_text": "• リスク、意思決定プロセス、責任、一般的な落とし穴、TEVV(試験・評価・検証・妥当性確認)の実務、および継続的改善のためのアプローチについて、組織内および組織間での情報共有が改善されること。",
          "translation_html": "• リスク、意思決定プロセス、責任、一般的な落とし穴、TEVV(試験・評価・検証・妥当性確認)の実務、および継続的改善のためのアプローチについて、組織内および組織間での情報共有が改善されること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• greater contextual knowledge for increased awareness of downstream risks;",
          "translation_text": "• 下流リスクに対する認識を高めるための、文脈に即した知識が深まること。",
          "translation_html": "• 下流リスクに対する認識を高めるための、文脈に即した知識が深まること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• strengthened engagement with interested parties and relevant AI actors; and",
          "translation_text": "• 利害関係者および関連するAI関係者(AIアクター)との連携が強化されること。",
          "translation_html": "• 利害関係者および関連するAI関係者(AIアクター)との連携が強化されること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• augmented capacity for TEVV of AI systems and associated risks.",
          "translation_text": "• AIシステムおよび関連リスクに対するTEVVの能力が拡充されること。",
          "translation_html": "• AIシステムおよび関連リスクに対するTEVVの能力が拡充されること。"
        }
      ]
    },
    {
      "id": "usg-s5_core_intro",
      "heading": "5. AI RMF Core",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "5.   AI RMF Core The AI RMF Core provides outcomes and actions that enable dialogue, understanding, and activities to manage AI risks and responsibly develop trustworthy AI systems. As illustrated in Figure 5, the Core is composed of four functions: GOVERN , MAP, MEASURE , and MANAGE. Each of these high-level functions is broken down into categories and subcategories. Categories and subcategories are subdivided into specific actions and outcomes. Actions do not constitute a checklist, nor are they necessarily an ordered set of steps.",
          "translation_text": "5.   AI RMFコア AI RMFコアは、AIリスクを管理し、信頼できるAIシステムを責任を持って開発するための対話、理解、および活動を可能にする成果と行動を提供する。図5に示すとおり、コアはGOVERN(ガバナンス)、MAP(マッピング)、MEASURE(測定)、MANAGE(マネジメント)の4つの機能から構成される。これらの上位機能は、それぞれカテゴリーとサブカテゴリーに分けられる。カテゴリーとサブカテゴリーは、さらに具体的な行動と成果に細分化される。これらの行動はチェックリストを構成するものではなく、また必ずしも順序立てられた一連の手順でもない。",
          "translation_html": "5.   AI RMFコア AI RMFコアは、AIリスクを管理し、信頼できるAIシステムを責任を持って開発するための対話、理解、および活動を可能にする成果と行動を提供する。図5に示すとおり、コアはGOVERN(ガバナンス)、MAP(マッピング)、MEASURE(測定)、MANAGE(マネジメント)の4つの機能から構成される。これらの上位機能は、それぞれカテゴリーとサブカテゴリーに分けられる。カテゴリーとサブカテゴリーは、さらに具体的な行動と成果に細分化される。これらの行動はチェックリストを構成するものではなく、また必ずしも順序立てられた一連の手順でもない。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Fig. 5. Functions organize AI risk management activities at their highest level to govern, map, measure, and manage AI risks. Governance is designed to be a cross-cutting function to inform and be infused throughout the other three functions.",
          "translation_text": "図5. 機能は、AIリスクをガバナンス(統治)、マッピング、測定、管理するための活動を最上位で整理するものである。ガバナンスは、他の3つの機能全体に情報を提供し、浸透する横断的機能として設計されている。",
          "translation_html": "図5. 機能は、AIリスクをガバナンス(統治)、マッピング、測定、管理するための活動を最上位で整理するものである。ガバナンスは、他の3つの機能全体に情報を提供し、浸透する横断的機能として設計されている。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Risk management should be continuous, timely, and performed throughout the AI system lifecycle dimensions. AI RMF Core functions should be carried out in a way that reflects diverse and multidisciplinary perspectives, potentially including the views of AI actors outside the organization. Having a diverse team contributes to more open sharing of ideas and assumptions about purposes and functions of the technology being designed, developed, deployed, or evaluated – which can create opportunities to surface problems and identify existing and emergent risks.",
          "translation_text": "リスク管理は、AIシステムのライフサイクルの各段階を通じて、継続的かつ適時に実施されるべきである。AI RMFコアの各機能は、組織外のAI関係者(AIアクター)の視点を含め、多様で学際的な視点を反映する形で実施されることが望ましい。多様なチームを持つことは、設計、開発、展開、または評価される技術の目的や機能に関する考えや前提について、よりオープンな共有を促す。これにより、問題を表面化させ、既存および新たに生じつつあるリスクを特定する機会が生まれる。",
          "translation_html": "リスク管理は、AIシステムのライフサイクルの各段階を通じて、継続的かつ適時に実施されるべきである。AI RMFコアの各機能は、組織外のAI関係者(AIアクター)の視点を含め、多様で学際的な視点を反映する形で実施されることが望ましい。多様なチームを持つことは、設計、開発、展開、または評価される技術の目的や機能に関する考えや前提について、よりオープンな共有を促す。これにより、問題を表面化させ、既存および新たに生じつつあるリスクを特定する機会が生まれる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "An online companion resource to the AI RMF, the NIST AI RMF Playbook, is available to help organizations navigate the AI RMF and achieve its outcomes through suggested tactical actions they can apply within their own contexts. Like the AI RMF, the Playbook is voluntary and organizations can utilize the suggestions according to their needs and interests. Playbook users can create tailored guidance selected from suggested material for their own use and contribute their suggestions for sharing with the broader community. Along with the AI RMF, the Playbook is part of the NIST Trustworthy and Responsible AI Resource Center.",
          "translation_text": "AI RMFのオンライン付属資料であるNIST AI RMFプレイブックは、組織が自らの文脈の中で適用できる具体的な実践行動を提案することにより、AI RMFを活用しその成果を達成する手助けとなるよう用意されている。AI RMFと同様に、プレイブックも任意(ボランタリー)のものであり、組織は自らのニーズや関心に応じて提案を活用することができる。プレイブックの利用者は、提案されている内容の中から自分に合わせた指針を作成できるほか、より広いコミュニティと共有するための提案を投稿することもできる。プレイブックは、AI RMFとともに、NIST信頼できる責任あるAIリソースセンターの一部を構成している。",
          "translation_html": "AI RMFのオンライン付属資料であるNIST AI RMFプレイブックは、組織が自らの文脈の中で適用できる具体的な実践行動を提案することにより、AI RMFを活用しその成果を達成する手助けとなるよう用意されている。AI RMFと同様に、プレイブックも任意(ボランタリー)のものであり、組織は自らのニーズや関心に応じて提案を活用することができる。プレイブックの利用者は、提案されている内容の中から自分に合わせた指針を作成できるほか、より広いコミュニティと共有するための提案を投稿することもできる。プレイブックは、AI RMFとともに、NIST信頼できる責任あるAIリソースセンターの一部を構成している。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Framework users may apply these functions as best suits their needs for managing AI risks based on their resources and capabilities. Some organizations may choose to select from among the categories and subcategories; others may choose and have the capacity to apply all categories and subcategories. Assuming a governance structure is in place, functions may be performed in any order across the AI lifecycle as deemed to add value by a user of the framework. After instituting the outcomes in GOVERN , most users of the AI RMF would start with the MAP function and continue to MEASURE or MANAGE. However users integrate the functions, the process should be iterative, with cross-referencing between functions as necessary. Similarly, there are categories and subcategories with elements that apply to multiple functions, or that logically should take place before certain subcategory decisions.",
          "translation_text": "フレームワークの利用者は、自らのリソースや能力に基づき、AIリスクを管理するためのニーズに最も適した形でこれらの機能を適用してよい。組織によっては、カテゴリーとサブカテゴリーの中から選択することを選ぶ場合もあれば、すべてのカテゴリーとサブカテゴリーを適用する能力を持ち、それを選択する組織もあるだろう。ガバナンス体制が整っていることを前提とすれば、各機能は、フレームワーク利用者が価値を付加すると判断する限り、AIライフサイクルのどの時点でも、どのような順序で実施してもよい。GOVERNにおける成果を確立した後、AI RMFの多くの利用者はMAP機能から着手し、続いてMEASUREまたはMANAGEへと進むことになると考えられる。利用者がこれらの機能をどのように統合するとしても、そのプロセスは反復的であり、必要に応じて機能間で相互参照が行われるべきである。同様に、複数の機能にまたがって適用される要素を持つカテゴリーやサブカテゴリー、あるいは特定のサブカテゴリーの判断に先立って論理的に実施されるべきカテゴリーやサブカテゴリーも存在する。",
          "translation_html": "フレームワークの利用者は、自らのリソースや能力に基づき、AIリスクを管理するためのニーズに最も適した形でこれらの機能を適用してよい。組織によっては、カテゴリーとサブカテゴリーの中から選択することを選ぶ場合もあれば、すべてのカテゴリーとサブカテゴリーを適用する能力を持ち、それを選択する組織もあるだろう。ガバナンス体制が整っていることを前提とすれば、各機能は、フレームワーク利用者が価値を付加すると判断する限り、AIライフサイクルのどの時点でも、どのような順序で実施してもよい。GOVERNにおける成果を確立した後、AI RMFの多くの利用者はMAP機能から着手し、続いてMEASUREまたはMANAGEへと進むことになると考えられる。利用者がこれらの機能をどのように統合するとしても、そのプロセスは反復的であり、必要に応じて機能間で相互参照が行われるべきである。同様に、複数の機能にまたがって適用される要素を持つカテゴリーやサブカテゴリー、あるいは特定のサブカテゴリーの判断に先立って論理的に実施されるべきカテゴリーやサブカテゴリーも存在する。"
        }
      ]
    },
    {
      "id": "usg-s5_1_govern",
      "heading": "5.1 Govern",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "5.1     Govern",
          "translation_text": "5.1     ガバナンス(GOVERN)",
          "translation_html": "5.1     ガバナンス(GOVERN)"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The GOVERN function:",
          "translation_text": "GOVERN機能は、以下を行うものである。",
          "translation_html": "GOVERN機能は、以下を行うものである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• cultivates and implements a culture of risk management within organizations designing, developing, deploying, evaluating, or acquiring AI systems; • outlines processes, documents, and organizational schemes that anticipate, identify, and manage the risks a system can pose, including to users and others across society – and procedures to achieve those outcomes; • incorporates processes to assess potential impacts; • provides a structure by which AI risk management functions can align with organizational principles, policies, and strategic priorities; • connects technical aspects of AI system design and development to organizational values and principles, and enables organizational practices and competencies for the individuals involved in acquiring, training, deploying, and monitoring such systems; and • addresses full product lifecycle and associated processes, including legal and other issues concerning use of third-party software or hardware systems and data.",
          "translation_text": "• AIシステムの設計、開発、展開、評価、または調達を行う組織内において、リスク管理の文化を醸成し実践すること。 • 利用者や社会全体に及びうるものを含め、システムがもたらしうるリスクを予見・特定・管理するためのプロセス、文書、組織的な仕組み、およびそれらの成果を達成するための手順を定めること。 • 潜在的な影響を評価するためのプロセスを組み込むこと。 • AIリスク管理機能が組織の理念、方針、戦略的優先事項と整合するための枠組みを提供すること。 • AIシステムの設計・開発における技術的側面を組織の価値観や理念と結びつけ、そうしたシステムの調達、訓練、展開、および監視に携わる個人のための組織的な実務や能力を可能にすること。 • 第三者のソフトウェア、ハードウェアシステム、データの利用に関する法的その他の課題を含め、製品ライフサイクル全体とそれに付随するプロセスに対応すること。",
          "translation_html": "• AIシステムの設計、開発、展開、評価、または調達を行う組織内において、リスク管理の文化を醸成し実践すること。 • 利用者や社会全体に及びうるものを含め、システムがもたらしうるリスクを予見・特定・管理するためのプロセス、文書、組織的な仕組み、およびそれらの成果を達成するための手順を定めること。 • 潜在的な影響を評価するためのプロセスを組み込むこと。 • AIリスク管理機能が組織の理念、方針、戦略的優先事項と整合するための枠組みを提供すること。 • AIシステムの設計・開発における技術的側面を組織の価値観や理念と結びつけ、そうしたシステムの調達、訓練、展開、および監視に携わる個人のための組織的な実務や能力を可能にすること。 • 第三者のソフトウェア、ハードウェアシステム、データの利用に関する法的その他の課題を含め、製品ライフサイクル全体とそれに付随するプロセスに対応すること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "GOVERN is a cross-cutting function that is infused throughout AI risk management and enables the other functions of the process. Aspects of GOVERN, especially those related to compliance or evaluation, should be integrated into each of the other functions. Attention to governance is a continual and intrinsic requirement for effective AI risk management over an AI system’s lifespan and the organization’s hierarchy.",
          "translation_text": "GOVERNは、AIリスク管理全体に浸透し、他の機能を可能にする横断的な機能である。GOVERNの各側面、特にコンプライアンスや評価に関連する側面は、他の各機能に組み込まれるべきである。ガバナンスへの注意は、AIシステムの存続期間および組織の階層全体にわたり、効果的なAIリスク管理のために継続的かつ本質的に求められる要件である。",
          "translation_html": "GOVERNは、AIリスク管理全体に浸透し、他の機能を可能にする横断的な機能である。GOVERNの各側面、特にコンプライアンスや評価に関連する側面は、他の各機能に組み込まれるべきである。ガバナンスへの注意は、AIシステムの存続期間および組織の階層全体にわたり、効果的なAIリスク管理のために継続的かつ本質的に求められる要件である。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Strong governance can drive and enhance internal practices and norms to facilitate organizational risk culture. Governing authorities can determine the overarching policies that direct an organization’s mission, goals, values, culture, and risk tolerance. Senior leadership sets the tone for risk management within an organization, and with it, organizational culture. Management aligns the technical aspects of AI risk management to policies and operations. Documentation can enhance transparency, improve human review processes, and bolster accountability in AI system teams.",
          "translation_text": "強固なガバナンスは、組織のリスク文化を醸成するための内部の実務や規範を主導し強化することができる。統治機関(ガバニング・オーソリティ)は、組織の使命、目標、価値観、文化、リスク許容度を導く包括的な方針を定めることができる。上級リーダーシップは、組織内のリスク管理、ひいては組織文化の基調を定める。マネジメント層は、AIリスク管理の技術的側面を方針や業務運営と整合させる。文書化は、透明性を高め、人による審査プロセスを改善し、AIシステムチームにおける説明責任を強化することにつながる。",
          "translation_html": "強固なガバナンスは、組織のリスク文化を醸成するための内部の実務や規範を主導し強化することができる。統治機関(ガバニング・オーソリティ)は、組織の使命、目標、価値観、文化、リスク許容度を導く包括的な方針を定めることができる。上級リーダーシップは、組織内のリスク管理、ひいては組織文化の基調を定める。マネジメント層は、AIリスク管理の技術的側面を方針や業務運営と整合させる。文書化は、透明性を高め、人による審査プロセスを改善し、AIシステムチームにおける説明責任を強化することにつながる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "After putting in place the structures, systems, processes, and teams described in the GOVERN function, organizations should benefit from a purpose-driven culture focused on risk understanding and management. It is incumbent on Framework users to continue to execute the GOVERN function as knowledge, cultures, and needs or expectations from AI actors evolve over time.",
          "translation_text": "GOVERN機能に記載された体制、仕組み、プロセス、チームを整備した後、組織はリスクの理解と管理に主眼を置いた目的志向の文化から恩恵を受けることが期待される。知識、文化、およびAI関係者(AIアクター)からのニーズや期待が時とともに変化していく中で、フレームワーク利用者はGOVERN機能の実施を継続することが求められる。",
          "translation_html": "GOVERN機能に記載された体制、仕組み、プロセス、チームを整備した後、組織はリスクの理解と管理に主眼を置いた目的志向の文化から恩恵を受けることが期待される。知識、文化、およびAI関係者(AIアクター)からのニーズや期待が時とともに変化していく中で、フレームワーク利用者はGOVERN機能の実施を継続することが求められる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Practices related to governing AI risks are described in the NIST AI RMF Playbook. Table 1 lists the GOVERN function’s categories and subcategories.",
          "translation_text": "AIリスクのガバナンスに関する実務については、NIST AI RMFプレイブックに記載されている。表1にGOVERN機能のカテゴリーとサブカテゴリーを示す。",
          "translation_html": "AIリスクのガバナンスに関する実務については、NIST AI RMFプレイブックに記載されている。表1にGOVERN機能のカテゴリーとサブカテゴリーを示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 1: Categories and subcategories for the GOVERN function. Categories        Subcategories GOVERN 1:               GOVERN 1.1: Legal and regulatory requirements involving AI Policies, processes,   are understood, managed, and documented. procedures, and         GOVERN 1.2:    The characteristics of trustworthy AI are intepractices across the   grated into organizational policies, processes, procedures, and organization related   practices. to the mapping, GOVERN 1.3: Processes, procedures, and practices are in place measuring, and to determine the needed level of risk management activities based managing of AI on the organization’s risk tolerance. risks are in place, transparent, and        GOVERN 1.4: The risk management process and its outcomes are implemented            established through transparent policies, procedures, and other effectively.           controls based on organizational risk priorities. Continued on next page",
          "translation_text": "表1: GOVERN機能のカテゴリーとサブカテゴリー カテゴリー        サブカテゴリー GOVERN 1:               GOVERN 1.1: AIに関わる法令上・規制上の要件が理解され、 組織全体にわたる         管理され、文書化されている。 AIリスクのマッピング、    GOVERN 1.2: 信頼できるAIの特性が、組織の方針、プロセス、 測定、管理に関する       手順、実務に組み込まれている。 方針、プロセス、 GOVERN 1.3: 組織のリスク許容度に基づき、必要なリスク管理 手順、実務が 活動の水準を判断するためのプロセス、手順、実務が整備されて 整備され、透明性が いる。 あり、効果的に 実施されている。         GOVERN 1.4: リスク管理プロセスおよびその成果が、組織の リスク上の優先事項に基づく透明性のある方針、手順、その他の 統制を通じて確立されている。 次ページに続く",
          "translation_html": "表1: GOVERN機能のカテゴリーとサブカテゴリー カテゴリー        サブカテゴリー GOVERN 1:               GOVERN 1.1: AIに関わる法令上・規制上の要件が理解され、 組織全体にわたる         管理され、文書化されている。 AIリスクのマッピング、    GOVERN 1.2: 信頼できるAIの特性が、組織の方針、プロセス、 測定、管理に関する       手順、実務に組み込まれている。 方針、プロセス、 GOVERN 1.3: 組織のリスク許容度に基づき、必要なリスク管理 手順、実務が 活動の水準を判断するためのプロセス、手順、実務が整備されて 整備され、透明性が いる。 あり、効果的に 実施されている。         GOVERN 1.4: リスク管理プロセスおよびその成果が、組織の リスク上の優先事項に基づく透明性のある方針、手順、その他の 統制を通じて確立されている。 次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 1: Categories and subcategories for the GOVERN function. (Continued) Categories        Subcategories GOVERN 1.5: Ongoing monitoring and periodic review of the risk management process and its outcomes are planned and organizational roles and responsibilities clearly defined, including determining the frequency of periodic review. GOVERN 1.6: Mechanisms are in place to inventory AI systems and are resourced according to organizational risk priorities. GOVERN 1.7: Processes and procedures are in place for decommissioning and phasing out AI systems safely and in a manner that does not increase risks or decrease the organization’s trustworthiness. GOVERN 2:              GOVERN 2.1: Roles and responsibilities and lines of communiAccountability         cation related to mapping, measuring, and managing AI risks are structures are in      documented and are clear to individuals and teams throughout place so that the      the organization. appropriate teams      GOVERN 2.2: The organization’s personnel and partners receive and individuals are    AI risk management training to enable them to perform their duempowered,             ties and responsibilities consistent with related policies, proceresponsible, and       dures, and agreements. trained for mapping, GOVERN 2.3: Executive leadership of the organization takes remeasuring, and sponsibility for decisions about risks associated with AI system managing AI risks. development and deployment. GOVERN 3:              GOVERN 3.1: Decision-making related to mapping, measuring, Workforce diversity,   and managing AI risks throughout the lifecycle is informed by a equity, inclusion,     diverse team (e.g., diversity of demographics, disciplines, expeand accessibility      rience, expertise, and backgrounds). processes are GOVERN 3.2: Policies and procedures are in place to define and prioritized in the mapping,               differentiate roles and responsibilities for human-AI configurameasuring, and         tions and oversight of AI systems. managing of AI risks throughout the lifecycle. GOVERN 4:           GOVERN 4.1: Organizational policies and practices are in place Organizational      to foster a critical thinking and safety-first mindset in the design, teams are committed development, deployment, and uses of AI systems to minimize to a culture        potential negative impacts. Continued on next page",
          "translation_text": "表1: GOVERN機能のカテゴリーとサブカテゴリー(続き) カテゴリー        サブカテゴリー GOVERN 1.5: リスク管理プロセスおよびその成果に関する継続的な モニタリングと定期的な見直しが計画されており、定期的な見直しの 頻度の決定を含め、組織内の役割と責任が明確に定義されている。 GOVERN 1.6: AIシステムを台帳管理するための仕組みが整備され、 組織のリスク上の優先事項に応じてリソースが配分されている。 GOVERN 1.7: 安全な方法で、かつリスクを増大させたり組織の 信頼性を低下させたりしない形でAIシステムを運用終了・段階的に 廃止するためのプロセスと手順が整備されている。 GOVERN 2:              GOVERN 2.1: AIリスクのマッピング、測定、管理に関する役割と 適切なチームおよび       責任、ならびに連絡系統が文書化され、組織全体の個人およびチーム 個人が、AIリスクの      にとって明確になっている。 マッピング、測定、       GOVERN 2.2: 組織の職員およびパートナーは、関連する方針、 管理を担うための        手順、合意事項に沿って自らの職務・責任を遂行できるよう、 権限、責任、訓練を       AIリスク管理に関する訓練を受けている。 備えるための GOVERN 2.3: 組織の経営幹部(エグゼクティブ・リーダーシップ) 説明責任の体制が は、AIシステムの開発・展開に伴うリスクに関する意思決定について 整備されている。 責任を負う。 GOVERN 3:              GOVERN 3.1: ライフサイクル全体にわたるAIリスクのマッピング、 労働力の多様性、        測定、管理に関する意思決定には、多様なチーム(例えば、属性、 公平性、包摂性、        専門分野、経験、専門知識、経歴の多様性)の知見が反映されている。 アクセシビリティに GOVERN 3.2: 人とAIの構成(ヒューマン・AI・コンフィギュレー 関するプロセスが、 ション)およびAIシステムの監督に関する役割と責任を定義し ライフサイクル全体の 区別するための方針と手順が整備されている。 AIリスクの マッピング、測定、 管理において 優先されている。 GOVERN 4:           GOVERN 4.1: 潜在的な負の影響を最小化するため、AIシステムの 組織のチームが、       設計、開発、展開、利用において批判的思考と安全第一の考え方を AIリスクを考慮し      育む組織の方針と実務が整備されている。 伝達する文化に 取り組んでいる。                                                     次ページに続く",
          "translation_html": "表1: GOVERN機能のカテゴリーとサブカテゴリー(続き) カテゴリー        サブカテゴリー GOVERN 1.5: リスク管理プロセスおよびその成果に関する継続的な モニタリングと定期的な見直しが計画されており、定期的な見直しの 頻度の決定を含め、組織内の役割と責任が明確に定義されている。 GOVERN 1.6: AIシステムを台帳管理するための仕組みが整備され、 組織のリスク上の優先事項に応じてリソースが配分されている。 GOVERN 1.7: 安全な方法で、かつリスクを増大させたり組織の 信頼性を低下させたりしない形でAIシステムを運用終了・段階的に 廃止するためのプロセスと手順が整備されている。 GOVERN 2:              GOVERN 2.1: AIリスクのマッピング、測定、管理に関する役割と 適切なチームおよび       責任、ならびに連絡系統が文書化され、組織全体の個人およびチーム 個人が、AIリスクの      にとって明確になっている。 マッピング、測定、       GOVERN 2.2: 組織の職員およびパートナーは、関連する方針、 管理を担うための        手順、合意事項に沿って自らの職務・責任を遂行できるよう、 権限、責任、訓練を       AIリスク管理に関する訓練を受けている。 備えるための GOVERN 2.3: 組織の経営幹部(エグゼクティブ・リーダーシップ) 説明責任の体制が は、AIシステムの開発・展開に伴うリスクに関する意思決定について 整備されている。 責任を負う。 GOVERN 3:              GOVERN 3.1: ライフサイクル全体にわたるAIリスクのマッピング、 労働力の多様性、        測定、管理に関する意思決定には、多様なチーム(例えば、属性、 公平性、包摂性、        専門分野、経験、専門知識、経歴の多様性)の知見が反映されている。 アクセシビリティに GOVERN 3.2: 人とAIの構成(ヒューマン・AI・コンフィギュレー 関するプロセスが、 ション)およびAIシステムの監督に関する役割と責任を定義し ライフサイクル全体の 区別するための方針と手順が整備されている。 AIリスクの マッピング、測定、 管理において 優先されている。 GOVERN 4:           GOVERN 4.1: 潜在的な負の影響を最小化するため、AIシステムの 組織のチームが、       設計、開発、展開、利用において批判的思考と安全第一の考え方を AIリスクを考慮し      育む組織の方針と実務が整備されている。 伝達する文化に 取り組んでいる。                                                     次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 1: Categories and subcategories for the GOVERN function. (Continued) Categories         Subcategories that considers and      GOVERN 4.2: Organizational teams document the risks and pocommunicates AI         tential impacts of the AI technology they design, develop, deploy, risk.                   evaluate, and use, and they communicate about the impacts more broadly. GOVERN 4.3: Organizational practices are in place to enable AI testing, identification of incidents, and information sharing. GOVERN 5:               GOVERN 5.1: Organizational policies and practices are in place Processes are in        to collect, consider, prioritize, and integrate feedback from those place for robust        external to the team that developed or deployed the AI system engagement with         regarding the potential individual and societal impacts related to relevant AI actors.     AI risks. GOVERN 5.2: Mechanisms are established to enable the team that developed or deployed AI systems to regularly incorporate adjudicated feedback from relevant AI actors into system design and implementation. GOVERN 6: Policies      GOVERN 6.1: Policies and procedures are in place that address and procedures are      AI risks associated with third-party entities, including risks of inin place to address     fringement of a third-party’s intellectual property or other rights. AI risks and benefits   GOVERN 6.2:      Contingency processes are in place to handle arising from            failures or incidents in third-party data or AI systems deemed to third-party software    be high-risk. and data and other supply chain issues.",
          "translation_text": "表1: GOVERN機能のカテゴリーとサブカテゴリー(続き) カテゴリー         サブカテゴリー GOVERN 4.2: 組織のチームは、自らが設計、開発、展開、評価、 利用するAI技術のリスクと潜在的な影響を文書化し、その影響 についてより広く伝達する。 GOVERN 4.3: AIの試験、インシデントの特定、情報共有を可能 にする組織の実務が整備されている。 GOVERN 5:               GOVERN 5.1: AIリスクに関連する個人および社会への潜在的な 関連するAI関係者        影響について、AIシステムを開発または展開したチームの外部 (AIアクター)との      からのフィードバックを収集、検討、優先順位付け、統合する 適切な連携のための      組織の方針と実務が整備されている。 プロセスが GOVERN 5.2: AIシステムを開発または展開したチームが、関連 整備されている。 するAI関係者から調整・審査済みのフィードバックを定期的に システムの設計・実装に取り入れられるようにするための仕組み が確立されている。 GOVERN 6: 第三者の      GOVERN 6.1: 第三者の知的財産その他の権利の侵害リスクを含め、 ソフトウェア、データ、  第三者に関連するAIリスクに対応する方針と手順が整備されている。 その他のサプライ GOVERN 6.2: 高リスクと判断される第三者のデータまたはAI チェーンに関する システムにおける障害やインシデントに対応するための緊急時 課題から生じるAI 対応プロセスが整備されている。 リスクおよび便益に 対応するための方針・ 手順が整備されている。",
          "translation_html": "表1: GOVERN機能のカテゴリーとサブカテゴリー(続き) カテゴリー         サブカテゴリー GOVERN 4.2: 組織のチームは、自らが設計、開発、展開、評価、 利用するAI技術のリスクと潜在的な影響を文書化し、その影響 についてより広く伝達する。 GOVERN 4.3: AIの試験、インシデントの特定、情報共有を可能 にする組織の実務が整備されている。 GOVERN 5:               GOVERN 5.1: AIリスクに関連する個人および社会への潜在的な 関連するAI関係者        影響について、AIシステムを開発または展開したチームの外部 (AIアクター)との      からのフィードバックを収集、検討、優先順位付け、統合する 適切な連携のための      組織の方針と実務が整備されている。 プロセスが GOVERN 5.2: AIシステムを開発または展開したチームが、関連 整備されている。 するAI関係者から調整・審査済みのフィードバックを定期的に システムの設計・実装に取り入れられるようにするための仕組み が確立されている。 GOVERN 6: 第三者の      GOVERN 6.1: 第三者の知的財産その他の権利の侵害リスクを含め、 ソフトウェア、データ、  第三者に関連するAIリスクに対応する方針と手順が整備されている。 その他のサプライ GOVERN 6.2: 高リスクと判断される第三者のデータまたはAI チェーンに関する システムにおける障害やインシデントに対応するための緊急時 課題から生じるAI 対応プロセスが整備されている。 リスクおよび便益に 対応するための方針・ 手順が整備されている。"
        }
      ]
    },
    {
      "id": "usg-s5_2_map",
      "heading": "5.2 Map",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "5.2   Map",
          "translation_text": "5.2   マッピング(MAP)",
          "translation_html": "5.2   マッピング(MAP)"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The MAP function establishes the context to frame risks related to an AI system. The AI lifecycle consists of many interdependent activities involving a diverse set of actors (See Figure 3). In practice, AI actors in charge of one part of the process often do not have full visibility or control over other parts and their associated contexts. The interdependencies between these activities, and among the relevant AI actors, can make it difficult to reliably anticipate impacts of AI systems. For example, early decisions in identifying purposes and objectives of an AI system can alter its behavior and capabilities, and the dynamics of deployment setting (such as end users or impacted individuals) can shape the impacts of AI system decisions. As a result, the best intentions within one dimension of the AI lifecycle can be undermined via interactions with decisions and conditions in other, later activities.",
          "translation_text": "MAP機能は、AIシステムに関連するリスクを捉えるための文脈を確立する。AIのライフサイクルは、多様な関係者が関与する多くの相互依存的な活動から構成されている(図3参照)。実際には、プロセスのある一部分を担当するAI関係者(AIアクター)は、他の部分やそれに関連する文脈について十分な視野や統制を持たないことが多い。こうした活動間、また関連するAI関係者間の相互依存関係により、AIシステムの影響を確実に予見することが難しくなる場合がある。例えば、AIシステムの目的や目標を特定する初期段階の判断がその挙動や能力を左右することがあり、展開環境の力学(エンドユーザーや影響を受ける個人など)がAIシステムの判断による影響を形づくることもある。その結果、AIライフサイクルのある段階における最善の意図が、他の、より後の段階における判断や条件との相互作用によって損なわれる可能性がある。",
          "translation_html": "MAP機能は、AIシステムに関連するリスクを捉えるための文脈を確立する。AIのライフサイクルは、多様な関係者が関与する多くの相互依存的な活動から構成されている(図3参照)。実際には、プロセスのある一部分を担当するAI関係者(AIアクター)は、他の部分やそれに関連する文脈について十分な視野や統制を持たないことが多い。こうした活動間、また関連するAI関係者間の相互依存関係により、AIシステムの影響を確実に予見することが難しくなる場合がある。例えば、AIシステムの目的や目標を特定する初期段階の判断がその挙動や能力を左右することがあり、展開環境の力学(エンドユーザーや影響を受ける個人など)がAIシステムの判断による影響を形づくることもある。その結果、AIライフサイクルのある段階における最善の意図が、他の、より後の段階における判断や条件との相互作用によって損なわれる可能性がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "This complexity and varying levels of visibility can introduce uncertainty into risk management practices. Anticipating, assessing, and otherwise addressing potential sources of negative risk can mitigate this uncertainty and enhance the integrity of the decision process.",
          "translation_text": "こうした複雑さと、可視性の水準のばらつきは、リスク管理の実務に不確実性をもたらしうる。負のリスクの潜在的な発生源を予見・評価し、その他の方法で対応することは、この不確実性を緩和し、意思決定プロセスの健全性を高めることにつながる。",
          "translation_html": "こうした複雑さと、可視性の水準のばらつきは、リスク管理の実務に不確実性をもたらしうる。負のリスクの潜在的な発生源を予見・評価し、その他の方法で対応することは、この不確実性を緩和し、意思決定プロセスの健全性を高めることにつながる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The information gathered while carrying out the MAP function enables negative risk prevention and informs decisions for processes such as model management, as well as an initial decision about appropriateness or the need for an AI solution. Outcomes in the MAP function are the basis for the MEASURE and MANAGE functions. Without contextual knowledge, and awareness of risks within the identified contexts, risk management is difficult to perform. The MAP function is intended to enhance an organization’s ability to identify risks and broader contributing factors.",
          "translation_text": "MAP機能の実施を通じて収集される情報は、負のリスクの予防を可能にし、モデル管理などのプロセスに関する判断や、AIソリューションの妥当性・必要性に関する初期判断に資する。MAP機能における成果は、MEASURE機能およびMANAGE機能の基盤となる。文脈に関する知識、および特定された文脈内におけるリスクへの認識がなければ、リスク管理を実施することは難しい。MAP機能は、リスクおよびそれに寄与するより広範な要因を特定する組織の能力を高めることを目的としている。",
          "translation_html": "MAP機能の実施を通じて収集される情報は、負のリスクの予防を可能にし、モデル管理などのプロセスに関する判断や、AIソリューションの妥当性・必要性に関する初期判断に資する。MAP機能における成果は、MEASURE機能およびMANAGE機能の基盤となる。文脈に関する知識、および特定された文脈内におけるリスクへの認識がなければ、リスク管理を実施することは難しい。MAP機能は、リスクおよびそれに寄与するより広範な要因を特定する組織の能力を高めることを目的としている。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Implementation of this function is enhanced by incorporating perspectives from a diverse internal team and engagement with those external to the team that developed or deployed the AI system. Engagement with external collaborators, end users, potentially impacted communities, and others may vary based on the risk level of a particular AI system, the makeup of the internal team, and organizational policies. Gathering such broad perspectives can help organizations proactively prevent negative risks and develop more trustworthy AI systems by:",
          "translation_text": "この機能の実施は、多様な内部チームの視点を取り入れることや、AIシステムを開発・展開したチームの外部の関係者との連携により強化される。外部の協力者、エンドユーザー、影響を受ける可能性のあるコミュニティ、その他の関係者との連携の程度は、当該AIシステムのリスクレベル、内部チームの構成、組織の方針に応じて異なりうる。このような幅広い視点を集めることは、以下を通じて、組織が負のリスクを事前に防止し、より信頼できるAIシステムを開発する上で役立つ。",
          "translation_html": "この機能の実施は、多様な内部チームの視点を取り入れることや、AIシステムを開発・展開したチームの外部の関係者との連携により強化される。外部の協力者、エンドユーザー、影響を受ける可能性のあるコミュニティ、その他の関係者との連携の程度は、当該AIシステムのリスクレベル、内部チームの構成、組織の方針に応じて異なりうる。このような幅広い視点を集めることは、以下を通じて、組織が負のリスクを事前に防止し、より信頼できるAIシステムを開発する上で役立つ。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• improving their capacity for understanding contexts; • checking their assumptions about context of use; • enabling recognition of when systems are not functional within or out of their intended context; • identifying positive and beneficial uses of their existing AI systems; • improving understanding of limitations in AI and ML processes; • identifying constraints in real-world applications that may lead to negative impacts; • identifying known and foreseeable negative impacts related to intended use of AI systems; and • anticipating risks of the use of AI systems beyond intended use.",
          "translation_text": "• 文脈を理解する能力を高めること。 • 利用の文脈に関する前提を検証すること。 • システムが意図された文脈の内外で機能していない場合にそれを認識できるようにすること。 • 既存のAIシステムの肯定的かつ有益な用途を特定すること。 • AIおよび機械学習(ML)のプロセスにおける限界についての理解を深めること。 • 負の影響につながりうる実世界での応用における制約を特定すること。 • AIシステムの意図された用途に関連する、既知の、または予見可能な負の影響を特定すること。 • 意図された用途を超えたAIシステムの利用のリスクを予見すること。",
          "translation_html": "• 文脈を理解する能力を高めること。 • 利用の文脈に関する前提を検証すること。 • システムが意図された文脈の内外で機能していない場合にそれを認識できるようにすること。 • 既存のAIシステムの肯定的かつ有益な用途を特定すること。 • AIおよび機械学習(ML)のプロセスにおける限界についての理解を深めること。 • 負の影響につながりうる実世界での応用における制約を特定すること。 • AIシステムの意図された用途に関連する、既知の、または予見可能な負の影響を特定すること。 • 意図された用途を超えたAIシステムの利用のリスクを予見すること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "After completing the MAP function, Framework users should have sufficient contextual knowledge about AI system impacts to inform an initial go/no-go decision about whether to design, develop, or deploy an AI system. If a decision is made to proceed, organizations should utilize the MEASURE and MANAGE functions along with policies and procedures put into place in the GOVERN function to assist in AI risk management efforts. It is incumbent on Framework users to continue applying the MAP function to AI systems as context, capabilities, risks, benefits, and potential impacts evolve over time.",
          "translation_text": "MAP機能を完了した後、フレームワーク利用者は、AIシステムの設計、開発、または展開を進めるか否かについての初期判断を行うために十分な、AIシステムの影響に関する文脈的知識を有していることが望ましい。進めるという判断がなされた場合、組織はMEASURE機能およびMANAGE機能を、GOVERN機能で整備された方針・手順とあわせて活用し、AIリスク管理の取り組みを支援することが望ましい。文脈、能力、リスク、便益、潜在的な影響が時とともに変化していく中で、フレームワーク利用者はAIシステムに対してMAP機能を継続的に適用することが求められる。",
          "translation_html": "MAP機能を完了した後、フレームワーク利用者は、AIシステムの設計、開発、または展開を進めるか否かについての初期判断を行うために十分な、AIシステムの影響に関する文脈的知識を有していることが望ましい。進めるという判断がなされた場合、組織はMEASURE機能およびMANAGE機能を、GOVERN機能で整備された方針・手順とあわせて活用し、AIリスク管理の取り組みを支援することが望ましい。文脈、能力、リスク、便益、潜在的な影響が時とともに変化していく中で、フレームワーク利用者はAIシステムに対してMAP機能を継続的に適用することが求められる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Practices related to mapping AI risks are described in the NIST AI RMF Playbook. Table 2 lists the MAP function’s categories and subcategories.",
          "translation_text": "AIリスクのマッピングに関する実務については、NIST AI RMFプレイブックに記載されている。表2にMAP機能のカテゴリーとサブカテゴリーを示す。",
          "translation_html": "AIリスクのマッピングに関する実務については、NIST AI RMFプレイブックに記載されている。表2にMAP機能のカテゴリーとサブカテゴリーを示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 2: Categories and subcategories for the MAP function. Categories         Subcategories MAP 1: Context is       MAP 1.1: Intended purposes, potentially beneficial uses, contextestablished and         specific laws, norms and expectations, and prospective settings in understood.             which the AI system will be deployed are understood and documented. Considerations include: the specific set or types of users along with their expectations; potential positive and negative impacts of system uses to individuals, communities, organizations, society, and the planet; assumptions and related limitations about AI system purposes, uses, and risks across the development or product AI lifecycle; and related TEVV and system metrics. MAP 1.2: Interdisciplinary AI actors, competencies, skills, and capacities for establishing context reflect demographic diversity and broad domain and user experience expertise, and their participation is documented. Opportunities for interdisciplinary collaboration are prioritized. MAP 1.3: The organization’s mission and relevant goals for AI technology are understood and documented. MAP 1.4: The business value or context of business use has been clearly defined or – in the case of assessing existing AI systems – re-evaluated. MAP 1.5:  Organizational risk tolerances are determined and documented. MAP 1.6: System requirements (e.g., “the system shall respect the privacy of its users”) are elicited from and understood by relevant AI actors. Design decisions take socio-technical implications into account to address AI risks. MAP 2:                  MAP 2.1: The specific tasks and methods used to implement the Categorization of       tasks that the AI system will support are defined (e.g., classifiers, the AI system is        generative models, recommenders). performed.              MAP 2.2: Information about the AI system’s knowledge limits and how system output may be utilized and overseen by humans is documented. Documentation provides sufficient information to assist relevant AI actors when making decisions and taking subsequent actions. Continued on next page",
          "translation_text": "表2: MAP機能のカテゴリーとサブカテゴリー カテゴリー         サブカテゴリー MAP 1: 文脈が          MAP 1.1: AIシステムが展開される意図された目的、潜在的に有益 確立され、理解         な用途、文脈に固有の法令・規範・期待、および想定される設置環境 されている。           が理解され、文書化されている。考慮事項には、想定される利用者の 具体的な集団や種類とその期待、システムの利用が個人、コミュニ ティ、組織、社会、地球に及ぼしうる肯定的・否定的な影響、開発 または製品のAIライフサイクル全体にわたるAIシステムの目的・ 用途・リスクに関する前提およびそれに関連する限界、ならびに 関連するTEVVおよびシステムの指標が含まれる。 MAP 1.2: 文脈を確立するための学際的なAI関係者、能力、スキル、 キャパシティは、人口統計学的な多様性、および幅広い専門分野・ 利用者経験に関する専門知識の多様性を反映しており、その関与 は文書化されている。学際的な協働の機会が優先されている。 MAP 1.3: 組織の使命およびAI技術に関する関連目標が理解され、 文書化されている。 MAP 1.4: 事業上の価値、または事業での利用の文脈が明確に定義 されている(既存のAIシステムを評価する場合には再評価されて いる)。 MAP 1.5: 組織のリスク許容度が定められ、文書化されている。 MAP 1.6: システム要件(例:「本システムは利用者のプライバシー を尊重するものとする」)が関連するAI関係者から引き出され、 理解されている。設計上の判断は、AIリスクに対応するため、 社会技術的な含意を考慮している。 MAP 2:                  MAP 2.1: AIシステムが支援するタスクを実装するために用いられ AIシステムの           る具体的なタスクおよび手法(分類器、生成モデル、推薦システム 分類が行われる。        など)が定義されている。 MAP 2.2: AIシステムの知識の限界、およびシステムの出力が人 によってどのように利用・監督されうるかに関する情報が文書化 されている。文書は、関連するAI関係者が意思決定を行い、その後 の行動をとる際に役立つ十分な情報を提供する。 次ページに続く",
          "translation_html": "表2: MAP機能のカテゴリーとサブカテゴリー カテゴリー         サブカテゴリー MAP 1: 文脈が          MAP 1.1: AIシステムが展開される意図された目的、潜在的に有益 確立され、理解         な用途、文脈に固有の法令・規範・期待、および想定される設置環境 されている。           が理解され、文書化されている。考慮事項には、想定される利用者の 具体的な集団や種類とその期待、システムの利用が個人、コミュニ ティ、組織、社会、地球に及ぼしうる肯定的・否定的な影響、開発 または製品のAIライフサイクル全体にわたるAIシステムの目的・ 用途・リスクに関する前提およびそれに関連する限界、ならびに 関連するTEVVおよびシステムの指標が含まれる。 MAP 1.2: 文脈を確立するための学際的なAI関係者、能力、スキル、 キャパシティは、人口統計学的な多様性、および幅広い専門分野・ 利用者経験に関する専門知識の多様性を反映しており、その関与 は文書化されている。学際的な協働の機会が優先されている。 MAP 1.3: 組織の使命およびAI技術に関する関連目標が理解され、 文書化されている。 MAP 1.4: 事業上の価値、または事業での利用の文脈が明確に定義 されている(既存のAIシステムを評価する場合には再評価されて いる)。 MAP 1.5: 組織のリスク許容度が定められ、文書化されている。 MAP 1.6: システム要件(例:「本システムは利用者のプライバシー を尊重するものとする」)が関連するAI関係者から引き出され、 理解されている。設計上の判断は、AIリスクに対応するため、 社会技術的な含意を考慮している。 MAP 2:                  MAP 2.1: AIシステムが支援するタスクを実装するために用いられ AIシステムの           る具体的なタスクおよび手法(分類器、生成モデル、推薦システム 分類が行われる。        など)が定義されている。 MAP 2.2: AIシステムの知識の限界、およびシステムの出力が人 によってどのように利用・監督されうるかに関する情報が文書化 されている。文書は、関連するAI関係者が意思決定を行い、その後 の行動をとる際に役立つ十分な情報を提供する。 次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 2: Categories and subcategories for the MAP function. (Continued) Categories          Subcategories MAP 2.3: Scientific integrity and TEVV considerations are identified and documented, including those related to experimental design, data collection and selection (e.g., availability, representativeness, suitability), system trustworthiness, and construct validation. MAP 3: AI                MAP 3.1: Potential benefits of intended AI system functionality capabilities, targeted   and performance are examined and documented. usage, goals, and        MAP 3.2: Potential costs, including non-monetary costs, which expected benefits        result from expected or realized AI errors or system functionality and costs compared       and trustworthiness – as connected to organizational risk tolerwith appropriate         ance – are examined and documented. benchmarks are MAP 3.3: Targeted application scope is specified and docuunderstood. mented based on the system’s capability, established context, and AI system categorization. MAP 3.4:    Processes for operator and practitioner proficiency with AI system performance and trustworthiness – and relevant technical standards and certifications – are defined, assessed, and documented. MAP 3.5: Processes for human oversight are defined, assessed, and documented in accordance with organizational policies from the GOVERN function. MAP 4: Risks and         MAP 4.1: Approaches for mapping AI technology and legal risks benefits are mapped      of its components – including the use of third-party data or softfor all components       ware – are in place, followed, and documented, as are risks of inof the AI system         fringement of a third party’s intellectual property or other rights. including third-party    MAP 4.2: Internal risk controls for components of the AI syssoftware and data.       tem, including third-party AI technologies, are identified and documented. MAP 5: Impacts to        MAP 5.1: Likelihood and magnitude of each identified impact individuals, groups,     (both potentially beneficial and harmful) based on expected use, communities,             past uses of AI systems in similar contexts, public incident reorganizations, and       ports, feedback from those external to the team that developed society are              or deployed the AI system, or other data are identified and characterized.           documented. Continued on next page",
          "translation_text": "表2: MAP機能のカテゴリーとサブカテゴリー(続き) カテゴリー          サブカテゴリー MAP 2.3: 実験設計、データの収集・選定(可用性、代表性、 適合性など)、システムの信頼性、構成概念の妥当性確認 など、科学的健全性およびTEVVに関する考慮事項が特定され、 文書化されている。 MAP 3: AIの            MAP 3.1: 意図されたAIシステムの機能および性能がもたらしうる 能力、目標とする         潜在的な便益が検討され、文書化されている。 用途、目標、および       MAP 3.2: 想定される、または実際に生じたAIの誤りやシステムの 適切なベンチマークと     機能・信頼性から生じる、組織のリスク許容度と関連づけられた 比較した期待される       潜在的なコスト(金銭以外のコストを含む)が検討され、文書化 便益とコストが          されている。 理解されている。 MAP 3.3: 対象とする適用範囲が、システムの能力、確立された 文脈、AIシステムの分類に基づいて明記され、文書化されて いる。 MAP 3.4: AIシステムの性能・信頼性、および関連する技術標準・ 認証に関するオペレーターおよび実務者の習熟度を高めるための プロセスが定義され、評価され、文書化されている。 MAP 3.5: 人による監督のためのプロセスが、GOVERN機能に おける組織の方針に沿って定義され、評価され、文書化されて いる。 MAP 4: 第三者の        MAP 4.1: 第三者のデータやソフトウェアの利用を含め、AI技術 ソフトウェアおよび      およびそのコンポーネントの法的リスクをマッピングするための データを含む、AI       アプローチが整備され、遵守され、文書化されているとともに、 システムのすべての      第三者の知的財産その他の権利の侵害リスクについても同様に コンポーネントに        対応されている。 ついて、リスクと         MAP 4.2: 第三者のAI技術を含む、AIシステムのコンポーネント 便益がマッピング       に関する内部のリスク統制が特定され、文書化されている。 されている。 MAP 5: 個人、          MAP 5.1: 想定される用途、類似の文脈における過去のAIシステム グループ、             の利用実績、公開されているインシデント報告、AIシステムを開発 コミュニティ、          または展開したチームの外部からのフィードバック、その他の 組織、社会への         データに基づき、特定された各影響(潜在的に有益なものと有害な 影響が特徴づけ         ものの双方)の可能性と大きさが特定され、文書化されている。 られている。 次ページに続く",
          "translation_html": "表2: MAP機能のカテゴリーとサブカテゴリー(続き) カテゴリー          サブカテゴリー MAP 2.3: 実験設計、データの収集・選定(可用性、代表性、 適合性など)、システムの信頼性、構成概念の妥当性確認 など、科学的健全性およびTEVVに関する考慮事項が特定され、 文書化されている。 MAP 3: AIの            MAP 3.1: 意図されたAIシステムの機能および性能がもたらしうる 能力、目標とする         潜在的な便益が検討され、文書化されている。 用途、目標、および       MAP 3.2: 想定される、または実際に生じたAIの誤りやシステムの 適切なベンチマークと     機能・信頼性から生じる、組織のリスク許容度と関連づけられた 比較した期待される       潜在的なコスト(金銭以外のコストを含む)が検討され、文書化 便益とコストが          されている。 理解されている。 MAP 3.3: 対象とする適用範囲が、システムの能力、確立された 文脈、AIシステムの分類に基づいて明記され、文書化されて いる。 MAP 3.4: AIシステムの性能・信頼性、および関連する技術標準・ 認証に関するオペレーターおよび実務者の習熟度を高めるための プロセスが定義され、評価され、文書化されている。 MAP 3.5: 人による監督のためのプロセスが、GOVERN機能に おける組織の方針に沿って定義され、評価され、文書化されて いる。 MAP 4: 第三者の        MAP 4.1: 第三者のデータやソフトウェアの利用を含め、AI技術 ソフトウェアおよび      およびそのコンポーネントの法的リスクをマッピングするための データを含む、AI       アプローチが整備され、遵守され、文書化されているとともに、 システムのすべての      第三者の知的財産その他の権利の侵害リスクについても同様に コンポーネントに        対応されている。 ついて、リスクと         MAP 4.2: 第三者のAI技術を含む、AIシステムのコンポーネント 便益がマッピング       に関する内部のリスク統制が特定され、文書化されている。 されている。 MAP 5: 個人、          MAP 5.1: 想定される用途、類似の文脈における過去のAIシステム グループ、             の利用実績、公開されているインシデント報告、AIシステムを開発 コミュニティ、          または展開したチームの外部からのフィードバック、その他の 組織、社会への         データに基づき、特定された各影響(潜在的に有益なものと有害な 影響が特徴づけ         ものの双方)の可能性と大きさが特定され、文書化されている。 られている。 次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 2: Categories and subcategories for the MAP function. (Continued) Categories         Subcategories MAP 5.2: Practices and personnel for supporting regular engagement with relevant AI actors and integrating feedback about positive, negative, and unanticipated impacts are in place and documented.",
          "translation_text": "表2: MAP機能のカテゴリーとサブカテゴリー(続き) カテゴリー         サブカテゴリー MAP 5.2: 関連するAI関係者との定期的な連携を支えるとともに、 肯定的、否定的、および予期しなかった影響に関するフィード バックを統合するための実務と人員が整備され、文書化されて いる。",
          "translation_html": "表2: MAP機能のカテゴリーとサブカテゴリー(続き) カテゴリー         サブカテゴリー MAP 5.2: 関連するAI関係者との定期的な連携を支えるとともに、 肯定的、否定的、および予期しなかった影響に関するフィード バックを統合するための実務と人員が整備され、文書化されて いる。"
        }
      ]
    },
    {
      "id": "usg-s5_3_measure",
      "heading": "5.3 Measure",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "5.3   Measure",
          "translation_text": "5.3   測定(MEASURE)",
          "translation_html": "5.3   測定(MEASURE)"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The MEASURE function employs quantitative, qualitative, or mixed-method tools, techniques, and methodologies to analyze, assess, benchmark, and monitor AI risk and related impacts. It uses knowledge relevant to AI risks identified in the MAP function and informs the MANAGE function. AI systems should be tested before their deployment and regularly while in operation. AI risk measurements include documenting aspects of systems’ functionality and trustworthiness.",
          "translation_text": "MEASURE機能は、定量的、定性的、または混合的な手法・技術・方法論を用いて、AIリス クおよび関連する影響を分析・評価・ベンチマーク・モニタリングする。この機能は、MAP 機能で特定されたAIリスクに関する知見を活用し、MANAGE機能に情報を提供する。AIシ ステムは、導入前に試験を行い、運用中も定期的に試験を行うべきである。AIリスクの測定 には、システムの機能性および信頼性に関する諸側面の文書化が含まれる。",
          "translation_html": "MEASURE機能は、定量的、定性的、または混合的な手法・技術・方法論を用いて、AIリス クおよび関連する影響を分析・評価・ベンチマーク・モニタリングする。この機能は、MAP 機能で特定されたAIリスクに関する知見を活用し、MANAGE機能に情報を提供する。AIシ ステムは、導入前に試験を行い、運用中も定期的に試験を行うべきである。AIリスクの測定 には、システムの機能性および信頼性に関する諸側面の文書化が含まれる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Measuring AI risks includes tracking metrics for trustworthy characteristics, social impact, and human-AI configurations. Processes developed or adopted in the MEASURE function should include rigorous software testing and performance assessment methodologies with associated measures of uncertainty, comparisons to performance benchmarks, and formalized reporting and documentation of results. Processes for independent review can improve the effectiveness of testing and can mitigate internal biases and potential conflicts of interest.",
          "translation_text": "AIリスクの測定には、信頼性に関する特性、社会的影響、および人間とAIの構成に関する 指標の追跡が含まれる。MEASURE機能において策定または採用されるプロセスには、厳密 なソフトウェア試験および性能評価の方法論(不確実性の関連指標を伴うもの)、性能ベン チマークとの比較、ならびに結果の正式な報告および文書化が含まれるべきである。独立し たレビューのためのプロセスは、試験の有効性を高め、内部的なバイアスや潜在的な利益相 反を緩和し得る。",
          "translation_html": "AIリスクの測定には、信頼性に関する特性、社会的影響、および人間とAIの構成に関する 指標の追跡が含まれる。MEASURE機能において策定または採用されるプロセスには、厳密 なソフトウェア試験および性能評価の方法論(不確実性の関連指標を伴うもの)、性能ベン チマークとの比較、ならびに結果の正式な報告および文書化が含まれるべきである。独立し たレビューのためのプロセスは、試験の有効性を高め、内部的なバイアスや潜在的な利益相 反を緩和し得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Where tradeoffs among the trustworthy characteristics arise, measurement provides a traceable basis to inform management decisions. Options may include recalibration, impact mitigation, or removal of the system from design, development, production, or use, as well as a range of compensating, detective, deterrent, directive, and recovery controls.",
          "translation_text": "信頼性に関する特性の間でトレードオフが生じる場合、測定はマネジメント上の意思決定に 情報を提供するための追跡可能な根拠となる。選択肢としては、再較正、影響の緩和、または設計・開発・生産・利用からのシステムの除去に加え、補完的・検知的・抑止的・指示的 および復旧的な各種の統制が考えられる。",
          "translation_html": "信頼性に関する特性の間でトレードオフが生じる場合、測定はマネジメント上の意思決定に 情報を提供するための追跡可能な根拠となる。選択肢としては、再較正、影響の緩和、または設計・開発・生産・利用からのシステムの除去に加え、補完的・検知的・抑止的・指示的 および復旧的な各種の統制が考えられる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "After completing the MEASURE function, objective, repeatable, or scalable test, evaluation, verification, and validation (TEVV) processes including metrics, methods, and methodologies are in place, followed, and documented. Metrics and measurement methodologies should adhere to scientific, legal, and ethical norms and be carried out in an open and transparent process. New types of measurement, qualitative and quantitative, may need to be developed. The degree to which each measurement type provides unique and meaningful information to the assessment of AI risks should be considered. Framework users will enhance their capacity to comprehensively evaluate system trustworthiness, identify and track existing and emergent risks, and verify efficacy of the metrics. Measurement outcomes will be utilized in the MANAGE function to assist risk monitoring and response efforts. It is incumbent on Framework users to continue applying the MEASURE function to AI systems as knowledge, methodologies, risks, and impacts evolve over time.",
          "translation_text": "MEASURE機能を完了すると、指標・手法・方法論を含む、客観的で再現可能かつ拡張可能 な試験・評価・検証・妥当性確認(TEVV)のプロセスが整備され、遵守され、文書化された 状態となる。指標および測定方法論は、科学的・法的・倫理的な規範に従い、公開され透明 性のあるプロセスのもとで実施されるべきである。定性的・定量的な新しいタイプの測定手 法の開発が必要となる場合もある。各測定手法がAIリスクの評価に対してどの程度独自か つ有意義な情報を提供するかについて検討すべきである。本フレームワークの利用者は、シ ステムの信頼性を包括的に評価し、既存および新興のリスクを特定・追跡し、指標の有効性 を検証する能力を強化することになる。測定の結果は、リスクのモニタリングおよび対応の 取り組みを支援するため、MANAGE機能において活用される。知識、方法論、リスク、お よび影響が時間とともに進展していく中で、本フレームワークの利用者はAIシステムに対 してMEASURE機能を継続的に適用していくことが求められる。",
          "translation_html": "MEASURE機能を完了すると、指標・手法・方法論を含む、客観的で再現可能かつ拡張可能 な試験・評価・検証・妥当性確認(TEVV)のプロセスが整備され、遵守され、文書化された 状態となる。指標および測定方法論は、科学的・法的・倫理的な規範に従い、公開され透明 性のあるプロセスのもとで実施されるべきである。定性的・定量的な新しいタイプの測定手 法の開発が必要となる場合もある。各測定手法がAIリスクの評価に対してどの程度独自か つ有意義な情報を提供するかについて検討すべきである。本フレームワークの利用者は、シ ステムの信頼性を包括的に評価し、既存および新興のリスクを特定・追跡し、指標の有効性 を検証する能力を強化することになる。測定の結果は、リスクのモニタリングおよび対応の 取り組みを支援するため、MANAGE機能において活用される。知識、方法論、リスク、お よび影響が時間とともに進展していく中で、本フレームワークの利用者はAIシステムに対 してMEASURE機能を継続的に適用していくことが求められる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Practices related to measuring AI risks are described in the NIST AI RMF Playbook. Table 3 lists the MEASURE function’s categories and subcategories.",
          "translation_text": "AIリスクの測定に関する実践事項は、NIST AI RMFプレイブックに記載されている。表3 にMEASURE機能のカテゴリおよびサブカテゴリを示す。",
          "translation_html": "AIリスクの測定に関する実践事項は、NIST AI RMFプレイブックに記載されている。表3 にMEASURE機能のカテゴリおよびサブカテゴリを示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 3: Categories and subcategories for the MEASURE function. Categories       Subcategories MEASURE 1:             MEASURE 1.1: Approaches and metrics for measurement of AI Appropriate           risks enumerated during the MAP function are selected for implemethods and metrics   mentation starting with the most significant AI risks. The risks are identified and    or trustworthiness characteristics that will not – or cannot – be applied.              measured are properly documented. MEASURE 1.2: Appropriateness of AI metrics and effectiveness of existing controls are regularly assessed and updated, including reports of errors and potential impacts on affected communities. MEASURE 1.3: Internal experts who did not serve as front-line developers for the system and/or independent assessors are involved in regular assessments and updates. Domain experts, users, AI actors external to the team that developed or deployed the AI system, and affected communities are consulted in support of assessments as necessary per organizational risk tolerance. MEASURE 2: AI         MEASURE 2.1: Test sets, metrics, and details about the tools used systems are           during TEVV are documented. evaluated for          MEASURE 2.2: Evaluations involving human subjects meet aptrustworthy           plicable requirements (including human subject protection) and characteristics.      are representative of the relevant population. MEASURE 2.3: AI system performance or assurance criteria are measured qualitatively or quantitatively and demonstrated for conditions similar to deployment setting(s). Measures are documented. MEASURE 2.4:   The functionality and behavior of the AI system and its components – as identified in the MAP function – are monitored when in production. MEASURE 2.5: The AI system to be deployed is demonstrated to be valid and reliable. Limitations of the generalizability beyond the conditions under which the technology was developed are documented. Continued on next page",
          "translation_text": "表3:MEASURE機能のカテゴリおよびサブカテゴリ カテゴリ                サブカテゴリ MEASURE 1:              MEASURE 1.1: MAP機能において列挙されたAIリスクの測定の 適切な手法および        ための手法および指標について、最も重大なAIリスクから優先し 指標が特定され、        て実装のための選定を行う。測定されない、または測定できな 適用される。            いリスクまたは信頼性に関する特性については、適切に文書化 する。 MEASURE 1.2: AIに関する指標の適切性、および既存の統制 の有効性について、影響を受けるコミュニティへの影響やエラー の報告を含め、定期的に評価および更新する。 MEASURE 1.3: システムのフロントライン開発者として関与 していなかった社内の専門家および/または独立した評価者が、 定期的な評価および更新に関与する。組織のリスク許容度に応 じて必要な場合には、ドメインの専門家、利用者、AIシステム の開発または展開を行ったチーム外のAI関係者、および影響を 受けるコミュニティに対して、評価を支援するための助言を求 める。 MEASURE 2: AIシス       MEASURE 2.1: TEVVの過程で使用された試験セット、指標、 テムが信頼性に関         および使用ツールの詳細を文書化する。 する特性について        MEASURE 2.2: 人間の被験者を伴う評価は、適用される要件 評価される。            (被験者保護を含む)を満たし、対象母集団を代表するもので あるようにする。 MEASURE 2.3: AIシステムの性能または保証に関する基準を 定性的または定量的に測定し、展開環境に類似した条件下で実 証する。測定結果は文書化する。 MEASURE 2.4: MAP機能で特定された、AIシステムおよびそ の構成要素の機能性および挙動について、本番運用時にモニタ リングする。 MEASURE 2.5: 展開予定のAIシステムが妥当かつ信頼できる ものであることを実証する。当該技術が開発された条件を超え た一般化可能性の限界については文書化する。 次ページに続く",
          "translation_html": "表3:MEASURE機能のカテゴリおよびサブカテゴリ カテゴリ                サブカテゴリ MEASURE 1:              MEASURE 1.1: MAP機能において列挙されたAIリスクの測定の 適切な手法および        ための手法および指標について、最も重大なAIリスクから優先し 指標が特定され、        て実装のための選定を行う。測定されない、または測定できな 適用される。            いリスクまたは信頼性に関する特性については、適切に文書化 する。 MEASURE 1.2: AIに関する指標の適切性、および既存の統制 の有効性について、影響を受けるコミュニティへの影響やエラー の報告を含め、定期的に評価および更新する。 MEASURE 1.3: システムのフロントライン開発者として関与 していなかった社内の専門家および/または独立した評価者が、 定期的な評価および更新に関与する。組織のリスク許容度に応 じて必要な場合には、ドメインの専門家、利用者、AIシステム の開発または展開を行ったチーム外のAI関係者、および影響を 受けるコミュニティに対して、評価を支援するための助言を求 める。 MEASURE 2: AIシス       MEASURE 2.1: TEVVの過程で使用された試験セット、指標、 テムが信頼性に関         および使用ツールの詳細を文書化する。 する特性について        MEASURE 2.2: 人間の被験者を伴う評価は、適用される要件 評価される。            (被験者保護を含む)を満たし、対象母集団を代表するもので あるようにする。 MEASURE 2.3: AIシステムの性能または保証に関する基準を 定性的または定量的に測定し、展開環境に類似した条件下で実 証する。測定結果は文書化する。 MEASURE 2.4: MAP機能で特定された、AIシステムおよびそ の構成要素の機能性および挙動について、本番運用時にモニタ リングする。 MEASURE 2.5: 展開予定のAIシステムが妥当かつ信頼できる ものであることを実証する。当該技術が開発された条件を超え た一般化可能性の限界については文書化する。 次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 3: Categories and subcategories for the MEASURE function. (Continued) Categories       Subcategories MEASURE 2.6: The AI system is evaluated regularly for safety risks – as identified in the MAP function. The AI system to be deployed is demonstrated to be safe, its residual negative risk does not exceed the risk tolerance, and it can fail safely, particularly if made to operate beyond its knowledge limits. Safety metrics reflect system reliability and robustness, real-time monitoring, and response times for AI system failures. MEASURE 2.7: AI system security and resilience – as identified in the MAP function – are evaluated and documented. MEASURE 2.8: Risks associated with transparency and accountability – as identified in the MAP function – are examined and documented. MEASURE 2.9: The AI model is explained, validated, and documented, and AI system output is interpreted within its context – as identified in the MAP function – to inform responsible use and governance. MEASURE 2.10: Privacy risk of the AI system – as identified in the MAP function – is examined and documented. MEASURE 2.11: Fairness and bias – as identified in the MAP function – are evaluated and results are documented. MEASURE 2.12: Environmental impact and sustainability of AI model training and management activities – as identified in the MAP function – are assessed and documented. MEASURE 2.13: Effectiveness of the employed TEVV metrics and processes in the MEASURE function are evaluated and documented. MEASURE 3:            MEASURE 3.1: Approaches, personnel, and documentation are Mechanisms for        in place to regularly identify and track existing, unanticipated, tracking identified   and emergent AI risks based on factors such as intended and acAI risks over time    tual performance in deployed contexts. are in place.         MEASURE 3.2:     Risk tracking approaches are considered for settings where AI risks are difficult to assess using currently available measurement techniques or where metrics are not yet available. Continued on next page",
          "translation_text": "表3:MEASURE機能のカテゴリおよびサブカテゴリ(続き) カテゴリ                サブカテゴリ MEASURE 2.6: MAP機能で特定された安全性リスクについて、 AIシステムを定期的に評価する。展開予定のAIシステムが安全 であること、残余のネガティブリスクがリスク許容度を超えな いこと、および特にシステムが知識の限界を超えて動作するよ う仕向けられた場合であっても安全に失敗できることを実証す る。安全性に関する指標は、システムの信頼性および堅牢性、 リアルタイムのモニタリング、ならびにAIシステム障害への対 応時間を反映するものとする。 MEASURE 2.7: MAP機能で特定されたAIシステムのセキュリ ティおよびレジリエンスについて評価し、文書化する。 MEASURE 2.8: MAP機能で特定された透明性および説明責任 に関連するリスクについて検証し、文書化する。 MEASURE 2.9: 責任ある利用およびガバナンスに資するよ う、AIモデルについて説明、妥当性確認、および文書化を行い、MAP機能で 特定された文脈に即してAIシステムの出力を解釈する。 MEASURE 2.10: MAP機能で特定されたAIシステムのプライ バシーリスクについて検証し、文書化する。 MEASURE 2.11: MAP機能で特定された公平性およびバイア スについて評価し、結果を文書化する。 MEASURE 2.12: MAP機能で特定された、AIモデルの学習お よび管理に関する活動の環境への影響および持続可能性につい て評価し、文書化する。 MEASURE 2.13: MEASURE機能において用いられたTEVVの 指標およびプロセスの有効性について評価し、文書化する。 MEASURE 3: 特定さ        MEASURE 3.1: 展開環境における意図された性能および実際 れたAIリスクを経時        の性能などの要因に基づき、既存・想定外・新興のAIリスクを 的に追跡する仕組み        定期的に特定し追跡するための手法、人員、および文書が整備 が整備される。          されている。 MEASURE 3.2: 現在利用可能な測定技術ではAIリスクの評価 が困難な状況、または指標がまだ存在しない状況を対象とした リスク追跡の手法について検討する。 次ページに続く",
          "translation_html": "表3:MEASURE機能のカテゴリおよびサブカテゴリ(続き) カテゴリ                サブカテゴリ MEASURE 2.6: MAP機能で特定された安全性リスクについて、 AIシステムを定期的に評価する。展開予定のAIシステムが安全 であること、残余のネガティブリスクがリスク許容度を超えな いこと、および特にシステムが知識の限界を超えて動作するよ う仕向けられた場合であっても安全に失敗できることを実証す る。安全性に関する指標は、システムの信頼性および堅牢性、 リアルタイムのモニタリング、ならびにAIシステム障害への対 応時間を反映するものとする。 MEASURE 2.7: MAP機能で特定されたAIシステムのセキュリ ティおよびレジリエンスについて評価し、文書化する。 MEASURE 2.8: MAP機能で特定された透明性および説明責任 に関連するリスクについて検証し、文書化する。 MEASURE 2.9: 責任ある利用およびガバナンスに資するよ う、AIモデルについて説明、妥当性確認、および文書化を行い、MAP機能で 特定された文脈に即してAIシステムの出力を解釈する。 MEASURE 2.10: MAP機能で特定されたAIシステムのプライ バシーリスクについて検証し、文書化する。 MEASURE 2.11: MAP機能で特定された公平性およびバイア スについて評価し、結果を文書化する。 MEASURE 2.12: MAP機能で特定された、AIモデルの学習お よび管理に関する活動の環境への影響および持続可能性につい て評価し、文書化する。 MEASURE 2.13: MEASURE機能において用いられたTEVVの 指標およびプロセスの有効性について評価し、文書化する。 MEASURE 3: 特定さ        MEASURE 3.1: 展開環境における意図された性能および実際 れたAIリスクを経時        の性能などの要因に基づき、既存・想定外・新興のAIリスクを 的に追跡する仕組み        定期的に特定し追跡するための手法、人員、および文書が整備 が整備される。          されている。 MEASURE 3.2: 現在利用可能な測定技術ではAIリスクの評価 が困難な状況、または指標がまだ存在しない状況を対象とした リスク追跡の手法について検討する。 次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 3: Categories and subcategories for the MEASURE function. (Continued) Categories        Subcategories MEASURE 3.3: Feedback processes for end users and impacted communities to report problems and appeal system outcomes are established and integrated into AI system evaluation metrics. MEASURE 4:             MEASURE 4.1: Measurement approaches for identifying AI risks Feedback about         are connected to deployment context(s) and informed through efficacy of            consultation with domain experts and other end users. Apmeasurement is         proaches are documented. gathered and            MEASURE 4.2: Measurement results regarding AI system trustassessed.              worthiness in deployment context(s) and across the AI lifecycle are informed by input from domain experts and relevant AI actors to validate whether the system is performing consistently as intended. Results are documented. MEASURE 4.3: Measurable performance improvements or declines based on consultations with relevant AI actors, including affected communities, and field data about contextrelevant risks and trustworthiness characteristics are identified and documented.",
          "translation_text": "表3:MEASURE機能のカテゴリおよびサブカテゴリ(続き) カテゴリ                 サブカテゴリ MEASURE 3.3: エンドユーザーおよび影響を受けるコミュニ ティが問題を報告し、システムの結果に対して異議を申し立て るためのフィードバックプロセスを確立し、AIシステムの評価 指標に組み込む。 MEASURE 4: 測定の         MEASURE 4.1: AIリスクを特定するための測定手法は、展開 有効性に関するフィ        環境に紐付けられ、ドメインの専門家およびその他のエンド ードバックが収集さ       ユーザーとの協議を通じて情報を反映させる。手法は文書化す れ、評価される。          る。 MEASURE 4.2: 展開環境およびAIライフサイクル全体にわた るAIシステムの信頼性に関する測定結果は、システムが意図し たとおり一貫して機能しているかを検証するため、ドメインの 専門家および関連するAI関係者からの意見を反映させる。結果 は文書化する。 MEASURE 4.3: 影響を受けるコミュニティを含む関連するAI 関係者との協議、および文脈に関連するリスクや信頼性に関す る特性についての実地データに基づき、測定可能な性能の向上 または低下を特定し、文書化する。",
          "translation_html": "表3:MEASURE機能のカテゴリおよびサブカテゴリ(続き) カテゴリ                 サブカテゴリ MEASURE 3.3: エンドユーザーおよび影響を受けるコミュニ ティが問題を報告し、システムの結果に対して異議を申し立て るためのフィードバックプロセスを確立し、AIシステムの評価 指標に組み込む。 MEASURE 4: 測定の         MEASURE 4.1: AIリスクを特定するための測定手法は、展開 有効性に関するフィ        環境に紐付けられ、ドメインの専門家およびその他のエンド ードバックが収集さ       ユーザーとの協議を通じて情報を反映させる。手法は文書化す れ、評価される。          る。 MEASURE 4.2: 展開環境およびAIライフサイクル全体にわた るAIシステムの信頼性に関する測定結果は、システムが意図し たとおり一貫して機能しているかを検証するため、ドメインの 専門家および関連するAI関係者からの意見を反映させる。結果 は文書化する。 MEASURE 4.3: 影響を受けるコミュニティを含む関連するAI 関係者との協議、および文脈に関連するリスクや信頼性に関す る特性についての実地データに基づき、測定可能な性能の向上 または低下を特定し、文書化する。"
        }
      ]
    },
    {
      "id": "usg-s5_4_manage",
      "heading": "5.4 Manage",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "5.4   Manage",
          "translation_text": "5.4   管理(MANAGE)",
          "translation_html": "5.4   管理(MANAGE)"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The MANAGE function entails allocating risk resources to mapped and measured risks on a regular basis and as defined by the GOVERN function. Risk treatment comprises plans to respond to, recover from, and communicate about incidents or events.",
          "translation_text": "MANAGE機能は、GOVERN機能によって定められたとおり、マッピングおよび測定された リスクに対して定期的にリスク対応の資源を配分することを内容とする。リスク対応には、 インシデントや事象への対応、それらからの復旧、およびそれらに関するコミュニケーショ ンの計画が含まれる。",
          "translation_html": "MANAGE機能は、GOVERN機能によって定められたとおり、マッピングおよび測定された リスクに対して定期的にリスク対応の資源を配分することを内容とする。リスク対応には、 インシデントや事象への対応、それらからの復旧、およびそれらに関するコミュニケーショ ンの計画が含まれる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Contextual information gleaned from expert consultation and input from relevant AI actors – established in GOVERN and carried out in MAP – is utilized in this function to decrease the likelihood of system failures and negative impacts. Systematic documentation practices established in GOVERN and utilized in MAP and MEASURE bolster AI risk management efforts and increase transparency and accountability. Processes for assessing emergent risks are in place, along with mechanisms for continual improvement.",
          "translation_text": "GOVERNにおいて確立され、MAPにおいて実施された専門家への相談および関連するAI 関係者からの意見を通じて得られた文脈情報は、この機能において、システム障害や負の影 響の発生可能性を低減するために活用される。GOVERNにおいて確立され、MAPおよび MEASUREにおいて活用された体系的な文書化の実践は、AIリスクマネジメントの取り組 みを強化し、透明性および説明責任を高める。新興リスクを評価するためのプロセスと、継 続的な改善のための仕組みが整備される。",
          "translation_html": "GOVERNにおいて確立され、MAPにおいて実施された専門家への相談および関連するAI 関係者からの意見を通じて得られた文脈情報は、この機能において、システム障害や負の影 響の発生可能性を低減するために活用される。GOVERNにおいて確立され、MAPおよび MEASUREにおいて活用された体系的な文書化の実践は、AIリスクマネジメントの取り組 みを強化し、透明性および説明責任を高める。新興リスクを評価するためのプロセスと、継 続的な改善のための仕組みが整備される。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "After completing the MANAGE function, plans for prioritizing risk and regular monitoring and improvement will be in place. Framework users will have enhanced capacity to manage the risks of deployed AI systems and to allocate risk management resources based on assessed and prioritized risks. It is incumbent on Framework users to continue to apply the MANAGE function to deployed AI systems as methods, contexts, risks, and needs or expectations from relevant AI actors evolve over time.",
          "translation_text": "MANAGE機能を完了すると、リスクの優先順位付けおよび定期的なモニタリングと改善の ための計画が整備された状態となる。本フレームワークの利用者は、展開済みのAIシステム のリスクを管理し、評価・優先順位付けされたリスクに基づいてリスクマネジメントの資源 を配分する能力を強化することになる。手法、文脈、リスク、および関連するAI関係者から のニーズや期待が時間とともに進展していく中で、本フレームワークの利用者は展開済みの AIシステムに対してMANAGE機能を継続的に適用していくことが求められる。",
          "translation_html": "MANAGE機能を完了すると、リスクの優先順位付けおよび定期的なモニタリングと改善の ための計画が整備された状態となる。本フレームワークの利用者は、展開済みのAIシステム のリスクを管理し、評価・優先順位付けされたリスクに基づいてリスクマネジメントの資源 を配分する能力を強化することになる。手法、文脈、リスク、および関連するAI関係者から のニーズや期待が時間とともに進展していく中で、本フレームワークの利用者は展開済みの AIシステムに対してMANAGE機能を継続的に適用していくことが求められる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Practices related to managing AI risks are described in the NIST AI RMF Playbook. Table 4 lists the MANAGE function’s categories and subcategories.",
          "translation_text": "AIリスクの管理に関する実践事項は、NIST AI RMFプレイブックに記載されている。表4 にMANAGE機能のカテゴリおよびサブカテゴリを示す。",
          "translation_html": "AIリスクの管理に関する実践事項は、NIST AI RMFプレイブックに記載されている。表4 にMANAGE機能のカテゴリおよびサブカテゴリを示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 4: Categories and subcategories for the MANAGE function. Categories        Subcategories MANAGE 1: AI           MANAGE 1.1:     A determination is made as to whether the AI risks based on         system achieves its intended purposes and stated objectives and assessments and        whether its development or deployment should proceed. other analytical       MANAGE 1.2: Treatment of documented AI risks is prioritized output from the        based on impact, likelihood, and available resources or methods. MAP and MEASURE MANAGE 1.3: Responses to the AI risks deemed high priority, as functions are identified by the MAP function, are developed, planned, and docprioritized, umented. Risk response options can include mitigating, transferresponded to, and ring, avoiding, or accepting. managed. MANAGE 1.4: Negative residual risks (defined as the sum of all unmitigated risks) to both downstream acquirers of AI systems and end users are documented. MANAGE 2:              MANAGE 2.1: Resources required to manage AI risks are taken Strategies to          into account – along with viable non-AI alternative systems, apmaximize AI            proaches, or methods – to reduce the magnitude or likelihood of benefits and           potential impacts. minimize negative      MANAGE 2.2: Mechanisms are in place and applied to sustain impacts are planned,   the value of deployed AI systems. prepared, MANAGE 2.3: Procedures are followed to respond to and recover implemented, from a previously unknown risk when it is identified. documented, and informed by input      MANAGE 2.4: Mechanisms are in place and applied, and responfrom relevant AI       sibilities are assigned and understood, to supersede, disengage, or actors.                deactivate AI systems that demonstrate performance or outcomes inconsistent with intended use. MANAGE 3: AI           MANAGE 3.1: AI risks and benefits from third-party resources risks and benefits     are regularly monitored, and risk controls are applied and from third-party       documented. entities are           MANAGE 3.2: Pre-trained models which are used for developmanaged.               ment are monitored as part of AI system regular monitoring and maintenance. Continued on next page",
          "translation_text": "表4:MANAGE機能のカテゴリおよびサブカテゴリ カテゴリ                 サブカテゴリ MANAGE 1: MAPお          MANAGE 1.1: AIシステムが意図した目的および明示された よびMEASURE機能          目標を達成しているか、また開発または展開を継続すべきか から得られた評価         についての判断を行う。 およびその他の分析        MANAGE 1.2: 文書化されたAIリスクへの対応については、影 結果に基づくAIリス      響、発生可能性、および利用可能な資源や手法に基づいて優先 クに優先順位を付け、     順位を付ける。 対応し、管理する。        MANAGE 1.3: MAP機能によって優先度が高いと特定された AIリスクへの対応策を策定・計画し、文書化する。リスク対応 の選択肢には、緩和、移転、回避、または受容が含まれ得る。 MANAGE 1.4: AIシステムの下流の取得者およびエンドユー ザーの双方に対する負の残余リスク(緩和されていない全リス クの合計として定義される)について文書化する。 MANAGE 2: AIの便益        MANAGE 2.1: 潜在的な影響の大きさや発生可能性を低減する を最大化し、負の影       ため、AI以外の実行可能な代替システム・アプローチ・手法と 響を最小化するため       併せて、AIリスクの管理に必要な資源を考慮する。 の戦略が、関連する        MANAGE 2.2: 展開済みのAIシステムの価値を維持するための AI関係者からの意見       仕組みを整備し、適用する。 を踏まえて計画・準        MANAGE 2.3: 従来知られていなかったリスクが特定された際 備・実施・文書化さ       に、それに対応し復旧するための手順に従う。 れる。                    MANAGE 2.4: 意図された用途と一致しない性能や結果を示す AIシステムを、代替、切り離し、または停止させるための仕組 みを整備・適用し、責任の所在を割り当て、理解させる。 MANAGE 3: サードパ        MANAGE 3.1: サードパーティのリソースに由来するAIリスク ーティに関するAIリ      および便益を定期的にモニタリングし、リスク統制を適用・文 スクおよび便益が管       書化する。 理される。               MANAGE 3.2: 開発に用いられる事前学習済みモデルについて は、AIシステムの定期的なモニタリングおよび保守の一環とし てモニタリングする。 次ページに続く",
          "translation_html": "表4:MANAGE機能のカテゴリおよびサブカテゴリ カテゴリ                 サブカテゴリ MANAGE 1: MAPお          MANAGE 1.1: AIシステムが意図した目的および明示された よびMEASURE機能          目標を達成しているか、また開発または展開を継続すべきか から得られた評価         についての判断を行う。 およびその他の分析        MANAGE 1.2: 文書化されたAIリスクへの対応については、影 結果に基づくAIリス      響、発生可能性、および利用可能な資源や手法に基づいて優先 クに優先順位を付け、     順位を付ける。 対応し、管理する。        MANAGE 1.3: MAP機能によって優先度が高いと特定された AIリスクへの対応策を策定・計画し、文書化する。リスク対応 の選択肢には、緩和、移転、回避、または受容が含まれ得る。 MANAGE 1.4: AIシステムの下流の取得者およびエンドユー ザーの双方に対する負の残余リスク(緩和されていない全リス クの合計として定義される)について文書化する。 MANAGE 2: AIの便益        MANAGE 2.1: 潜在的な影響の大きさや発生可能性を低減する を最大化し、負の影       ため、AI以外の実行可能な代替システム・アプローチ・手法と 響を最小化するため       併せて、AIリスクの管理に必要な資源を考慮する。 の戦略が、関連する        MANAGE 2.2: 展開済みのAIシステムの価値を維持するための AI関係者からの意見       仕組みを整備し、適用する。 を踏まえて計画・準        MANAGE 2.3: 従来知られていなかったリスクが特定された際 備・実施・文書化さ       に、それに対応し復旧するための手順に従う。 れる。                    MANAGE 2.4: 意図された用途と一致しない性能や結果を示す AIシステムを、代替、切り離し、または停止させるための仕組 みを整備・適用し、責任の所在を割り当て、理解させる。 MANAGE 3: サードパ        MANAGE 3.1: サードパーティのリソースに由来するAIリスク ーティに関するAIリ      および便益を定期的にモニタリングし、リスク統制を適用・文 スクおよび便益が管       書化する。 理される。               MANAGE 3.2: 開発に用いられる事前学習済みモデルについて は、AIシステムの定期的なモニタリングおよび保守の一環とし てモニタリングする。 次ページに続く"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Table 4: Categories and subcategories for the MANAGE function. (Continued) Categories         Subcategories MANAGE 4: Risk          MANAGE 4.1: Post-deployment AI system monitoring plans treatments,             are implemented, including mechanisms for capturing and evalincluding response      uating input from users and other relevant AI actors, appeal and recovery, and       and override, decommissioning, incident response, recovery, and communication           change management. plans for the           MANAGE 4.2: Measurable activities for continual improvements identified and          are integrated into AI system updates and include regular engagemeasured AI risks       ment with interested parties, including relevant AI actors. are documented and MANAGE 4.3: Incidents and errors are communicated to relevant monitored regularly. AI actors, including affected communities. Processes for tracking, responding to, and recovering from incidents and errors are followed and documented.",
          "translation_text": "表4:MANAGE機能のカテゴリおよびサブカテゴリ(続き) カテゴリ                  サブカテゴリ MANAGE 4: 特定さ          MANAGE 4.1: 利用者およびその他の関連するAI関係者からの れ、測定されたAIリ      意見の収集・評価、異議申立ておよびオーバーライド、廃止、 スクへの対応(対応       インシデント対応、復旧、および変更管理のための仕組みを含 および復旧を含む)       め、展開後のAIシステムのモニタリング計画を実施する。 およびコミュニケー        MANAGE 4.2: 関連するAI関係者との定期的な関与を含む、継 ションの計画が文書       続的な改善のための測定可能な取り組みを、AIシステムの更新 化され、定期的にモ       に組み込む。 ニタリングされる。        MANAGE 4.3: インシデントおよびエラーについて、影響を受 けるコミュニティを含む関連するAI関係者に伝達する。インシ デントおよびエラーの追跡、対応、および復旧のためのプロセ スに従い、これを文書化する。",
          "translation_html": "表4:MANAGE機能のカテゴリおよびサブカテゴリ(続き) カテゴリ                  サブカテゴリ MANAGE 4: 特定さ          MANAGE 4.1: 利用者およびその他の関連するAI関係者からの れ、測定されたAIリ      意見の収集・評価、異議申立ておよびオーバーライド、廃止、 スクへの対応(対応       インシデント対応、復旧、および変更管理のための仕組みを含 および復旧を含む)       め、展開後のAIシステムのモニタリング計画を実施する。 およびコミュニケー        MANAGE 4.2: 関連するAI関係者との定期的な関与を含む、継 ションの計画が文書       続的な改善のための測定可能な取り組みを、AIシステムの更新 化され、定期的にモ       に組み込む。 ニタリングされる。        MANAGE 4.3: インシデントおよびエラーについて、影響を受 けるコミュニティを含む関連するAI関係者に伝達する。インシ デントおよびエラーの追跡、対応、および復旧のためのプロセ スに従い、これを文書化する。"
        }
      ]
    },
    {
      "id": "usg-s6_profiles",
      "heading": "6. AI RMF Profiles",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "6.   AI RMF Profiles AI RMF use-case profiles are implementations of the AI RMF functions, categories, and subcategories for a specific setting or application based on the requirements, risk tolerance, and resources of the Framework user: for example, an AI RMF hiring profile or an AI RMF fair housing profile. Profiles may illustrate and offer insights into how risk can be managed at various stages of the AI lifecycle or in specific sector, technology, or end-use applications. AI RMF profiles assist organizations in deciding how they might best manage AI risk that is well-aligned with their goals, considers legal/regulatory requirements and best practices, and reflects risk management priorities.",
          "translation_text": "6.   AI RMFプロファイル AI RMFのユースケースプロファイルとは、本フレームワークの利用者の要件、リスク許容 度、および資源に基づき、特定の環境またはアプリケーションを対象として、AI RMFの機 能・カテゴリ・サブカテゴリを実装したものである。例えば、AI RMF採用プロファイルや AI RMF公正な住宅供給プロファイルなどが挙げられる。プロファイルは、AIのライフサイ クルの様々な段階、または特定のセクター・技術・エンドユースのアプリケーションにおい て、リスクをどのように管理し得るかを例示し、示唆を与えるものである。AI RMFプロフ ァイルは、組織が自らの目標に十分に整合し、法的・規制上の要件やベストプラクティスを 考慮し、リスクマネジメントの優先事項を反映した形で、AIリスクを最適に管理する方法を 判断する際の一助となる。",
          "translation_html": "6.   AI RMFプロファイル AI RMFのユースケースプロファイルとは、本フレームワークの利用者の要件、リスク許容 度、および資源に基づき、特定の環境またはアプリケーションを対象として、AI RMFの機 能・カテゴリ・サブカテゴリを実装したものである。例えば、AI RMF採用プロファイルや AI RMF公正な住宅供給プロファイルなどが挙げられる。プロファイルは、AIのライフサイ クルの様々な段階、または特定のセクター・技術・エンドユースのアプリケーションにおい て、リスクをどのように管理し得るかを例示し、示唆を与えるものである。AI RMFプロフ ァイルは、組織が自らの目標に十分に整合し、法的・規制上の要件やベストプラクティスを 考慮し、リスクマネジメントの優先事項を反映した形で、AIリスクを最適に管理する方法を 判断する際の一助となる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI RMF temporal profiles are descriptions of either the current state or the desired, target state of specific AI risk management activities within a given sector, industry, organization, or application context. An AI RMF Current Profile indicates how AI is currently being managed and the related risks in terms of current outcomes. A Target Profile indicates the outcomes needed to achieve the desired or target AI risk management goals.",
          "translation_text": "AI RMFの時間軸プロファイルとは、特定のセクター、業界、組織、またはアプリケーショ ン文脈における特定のAIリスクマネジメント活動の現状、または望ましい目標状態を記述 したものである。AI RMF現状プロファイルは、AIが現在どのように管理されているか、お よび現在の成果の観点から関連するリスクを示す。目標プロファイルは、望ましい、または 目標とするAIリスクマネジメントの目標を達成するために必要な成果を示す。",
          "translation_html": "AI RMFの時間軸プロファイルとは、特定のセクター、業界、組織、またはアプリケーショ ン文脈における特定のAIリスクマネジメント活動の現状、または望ましい目標状態を記述 したものである。AI RMF現状プロファイルは、AIが現在どのように管理されているか、お よび現在の成果の観点から関連するリスクを示す。目標プロファイルは、望ましい、または 目標とするAIリスクマネジメントの目標を達成するために必要な成果を示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Comparing Current and Target Profiles likely reveals gaps to be addressed to meet AI risk management objectives. Action plans can be developed to address these gaps to fulfill outcomes in a given category or subcategory. Prioritization of gap mitigation is driven by the user’s needs and risk management processes. This risk-based approach also enables Framework users to compare their approaches with other approaches and to gauge the resources needed (e.g., staffing, funding) to achieve AI risk management goals in a costeffective, prioritized manner.",
          "translation_text": "現状プロファイルと目標プロファイルを比較することにより、AIリスクマネジメントの目 標を達成するために対処すべきギャップが明らかになる可能性が高い。これらのギャップに 対処し、特定のカテゴリまたはサブカテゴリにおける成果を達成するための行動計画を策定 することができる。ギャップ是正の優先順位付けは、利用者のニーズおよびリスクマネジメ ントプロセスによって決まる。このリスクベースのアプローチにより、本フレームワークの 利用者は、自らのアプローチを他のアプローチと比較し、費用対効果が高く優先順位付けさ れた形でAIリスクマネジメントの目標を達成するために必要な資源(人員、予算など)を見 積もることも可能となる。",
          "translation_html": "現状プロファイルと目標プロファイルを比較することにより、AIリスクマネジメントの目 標を達成するために対処すべきギャップが明らかになる可能性が高い。これらのギャップに 対処し、特定のカテゴリまたはサブカテゴリにおける成果を達成するための行動計画を策定 することができる。ギャップ是正の優先順位付けは、利用者のニーズおよびリスクマネジメ ントプロセスによって決まる。このリスクベースのアプローチにより、本フレームワークの 利用者は、自らのアプローチを他のアプローチと比較し、費用対効果が高く優先順位付けさ れた形でAIリスクマネジメントの目標を達成するために必要な資源(人員、予算など)を見 積もることも可能となる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI RMF cross-sectoral profiles cover risks of models or applications that can be used across use cases or sectors. Cross-sectoral profiles can also cover how to govern, map, measure, and manage risks for activities or business processes common across sectors such as the use of large language models, cloud-based services or acquisition.",
          "translation_text": "AI RMFの分野横断的プロファイルは、複数のユースケースやセクターにわたって使用され 得るモデルまたはアプリケーションのリスクを対象とする。分野横断的プロファイルは、大 規模言語モデルの利用、クラウドベースのサービス、または調達など、セクターを横断して 共通する活動や業務プロセスに関するリスクをガバナンス・マッピング・測定・管理する方 法を対象とすることもできる。",
          "translation_html": "AI RMFの分野横断的プロファイルは、複数のユースケースやセクターにわたって使用され 得るモデルまたはアプリケーションのリスクを対象とする。分野横断的プロファイルは、大 規模言語モデルの利用、クラウドベースのサービス、または調達など、セクターを横断して 共通する活動や業務プロセスに関するリスクをガバナンス・マッピング・測定・管理する方 法を対象とすることもできる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "This Framework does not prescribe profile templates, allowing for flexibility in implementation.",
          "translation_text": "本フレームワークは、プロファイルのテンプレートを規定しておらず、実装における柔軟性 を認めている。",
          "translation_html": "本フレームワークは、プロファイルのテンプレートを規定しておらず、実装における柔軟性 を認めている。"
        }
      ]
    },
    {
      "id": "usg-appendix_a",
      "heading": "Appendix A: AI Actor Tasks",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "Appendix A: Descriptions of AI Actor Tasks from Figures 2 and 3 AI Design tasks are performed during the Application Context and Data and Input phases of the AI lifecycle in Figure 2. AI Design actors create the concept and objectives of AI systems and are responsible for the planning, design, and data collection and processing tasks of the AI system so that the AI system is lawful and fit-for-purpose. Tasks include articulating and documenting the system’s concept and objectives, underlying assumptions, context, and requirements; gathering and cleaning data; and documenting the metadata and characteristics of the dataset. AI actors in this category include data scientists, domain experts, socio-cultural analysts, experts in the field of diversity, equity, inclusion, and accessibility, members of impacted communities, human factors experts (e.g., UX/UI design), governance experts, data engineers, data providers, system funders, product managers, third-party entities, evaluators, and legal and privacy governance. AI Development tasks are performed during the AI Model phase of the lifecycle in Figure 2. AI Development actors provide the initial infrastructure of AI systems and are responsible for model building and interpretation tasks, which involve the creation, selection, calibration, training, and/or testing of models or algorithms. AI actors in this category include machine learning experts, data scientists, developers, third-party entities, legal and privacy governance experts, and experts in the socio-cultural and contextual factors associated with the deployment setting. AI Deployment tasks are performed during the Task and Output phase of the lifecycle in Figure 2. AI Deployment actors are responsible for contextual decisions relating to how the AI system is used to assure deployment of the system into production. Related tasks include piloting the system, checking compatibility with legacy systems, ensuring regulatory compliance, managing organizational change, and evaluating user experience. AI actors in this category include system integrators, software developers, end users, operators and practitioners, evaluators, and domain experts with expertise in human factors, socio-cultural analysis, and governance. Operation and Monitoring tasks are performed in the Application Context/Operate and Monitor phase of the lifecycle in Figure 2. These tasks are carried out by AI actors who are responsible for operating the AI system and working with others to regularly assess system output and impacts. AI actors in this category include system operators, domain experts, AI designers, users who interpret or incorporate the output of AI systems, product developers, evaluators and auditors, compliance experts, organizational management, and members of the research community. Test, Evaluation, Verification, and Validation (TEVV) tasks are performed throughout the AI lifecycle. They are carried out by AI actors who examine the AI system or its components, or detect and remediate problems. Ideally, AI actors carrying out verification and validation tasks are distinct from those who perform test and evaluation actions. Tasks can be incorporated into a phase as early as design, where tests are planned in accordance with the design requirement. • TEVV tasks for design, planning, and data may center on internal and external validation of assumptions for system design, data collection, and measurements relative to the intended context of deployment or application. • TEVV tasks for development (i.e., model building) include model validation and assessment. • TEVV tasks for deployment include system validation and integration in production, with testing, and recalibration for systems and process integration, user experience, and compliance with existing legal, regulatory, and ethical specifications. • TEVV tasks for operations involve ongoing monitoring for periodic updates, testing, and subject matter expert (SME) recalibration of models, the tracking of incidents or errors reported and their management, the detection of emergent properties and related impacts, and processes for redress and response. Human Factors tasks and activities are found throughout the dimensions of the AI lifecycle. They include human-centered design practices and methodologies, promoting the active involvement of end users and other interested parties and relevant AI actors, incorporating context-specific norms and values in system design, evaluating and adapting end user experiences, and broad integration of humans and human dynamics in all phases of the AI lifecycle. Human factors professionals provide multidisciplinary skills and perspectives to understand context of use, inform interdisciplinary and demographic diversity, engage in consultative processes, design and evaluate user experience, perform human-centered evaluation and testing, and inform impact assessments. Domain Expert tasks involve input from multidisciplinary practitioners or scholars who provide knowledge or expertise in – and about – an industry sector, economic sector, context, or application area where an AI system is being used. AI actors who are domain experts can provide essential guidance for AI system design and development, and interpret outputs in support of work performed by TEVV and AI impact assessment teams. AI Impact Assessment tasks include assessing and evaluating requirements for AI system accountability, combating harmful bias, examining impacts of AI systems, product safety, liability, and security, among others. AI actors such as impact assessors and evaluators provide technical, human factor, socio-cultural, and legal expertise. Procurement tasks are conducted by AI actors with financial, legal, or policy management authority for acquisition of AI models, products, or services from a third-party developer, vendor, or contractor. Governance and Oversight tasks are assumed by AI actors with management, fiduciary, and legal authority and responsibility for the organization in which an AI system is designed, developed, and/or deployed. Key AI actors responsible for AI governance include organizational management, senior leadership, and the Board of Directors. These actors are parties that are concerned with the impact and sustainability of the organization as a whole. Additional AI Actors Third-party entities include providers, developers, vendors, and evaluators of data, algorithms, models, and/or systems and related services for another organization or the organization’s customers or clients. Third-party entities are responsible for AI design and development tasks, in whole or in part. By definition, they are external to the design, development, or deployment team of the organization that acquires its technologies or services. The technologies acquired from third-party entities may be complex or opaque, and risk tolerances may not align with the deploying or operating organization. End users of an AI system are the individuals or groups that use the system for specific purposes. These individuals or groups interact with an AI system in a specific context. End users can range in competency from AI experts to first-time technology end users. Affected individuals/communities encompass all individuals, groups, communities, or organizations directly or indirectly affected by AI systems or decisions based on the output of AI systems. These individuals do not necessarily interact with the deployed system or application. Other AI actors may provide formal or quasi-formal norms or guidance for specifying and managing AI risks. They can include trade associations, standards developing organizations, advocacy groups, researchers, environmental groups, and civil society organizations. The general public is most likely to directly experience positive and negative impacts of AI technologies. They may provide the motivation for actions taken by the AI actors. This group can include individuals, communities, and consumers associated with the context in which an AI system is developed or deployed.",
          "translation_text": "附属書A: 図2および図3におけるAI関係者のタスクに関する説明 AI設計タスクは、図2に示すAIライフサイクルの「アプリケーションの文脈」および「デー タと入力」の各段階において実施される。AI設計を担う関係者は、AIシステムの概念お よび目標を策定し、AIシステムが適法かつ目的に適したものとなるよう、計画、設計、な らびにデータの収集および処理に関するタスクに責任を負う。タスクには、システムの概 念および目標、前提条件、文脈、ならびに要件の明確化および文書化、データの収集およ びクリーニング、ならびにデータセットのメタデータおよび特性の文書化が含まれる。こ のカテゴリに含まれるAI関係者には、データサイエンティスト、ドメインの専門家、社会 文化的分析の専門家、多様性・公平性・包摂性・アクセシビリティの分野の専門家、影響 を受けるコミュニティの構成員、人間工学の専門家(UX/UIデザインなど)、ガバナンス の専門家、データエンジニア、データ提供者、システムの出資者、プロダクトマネージャ ー、サードパーティ事業者、評価者、ならびに法務およびプライバシーガバナンスの担当 者が含まれる。 AI開発タスクは、図2に示すライフサイクルの「AIモデル」段階において実施される。AI 開発を担う関係者は、AIシステムの初期のインフラストラクチャを提供し、モデルまたは アルゴリズムの作成、選定、較正、学習、および/または試験を伴う、モデルの構築および 解釈に関するタスクに責任を負う。このカテゴリに含まれるAI関係者には、機械学習の専 門家、データサイエンティスト、開発者、サードパーティ事業者、法務およびプライバシ ーガバナンスの専門家、ならびに展開環境に関連する社会文化的・文脈的要因の専門家が 含まれる。 AI展開タスクは、図2に示すライフサイクルの「タスクと出力」段階において実施される。 AI展開を担う関係者は、システムを本番環境へ展開することを確実にするため、AIシステ ムの利用方法に関する文脈上の意思決定に責任を負う。関連するタスクには、システムの 試験導入、既存システムとの互換性の確認、規制遵守の確保、組織的な変更管理、および ユーザーエクスペリエンスの評価が含まれる。このカテゴリに含まれるAI関係者には、シ ステムインテグレーター、ソフトウェア開発者、エンドユーザー、運用担当者および実務 者、評価者、ならびに人間工学、社会文化的分析、およびガバナンスに関する専門知識を 有するドメインの専門家が含まれる。 運用およびモニタリングのタスクは、図2に示すライフサイクルの「アプリケーションの 文脈/運用およびモニタリング」段階において実施される。これらのタスクは、AIシステ ムの運用に責任を負い、システムの出力および影響を定期的に評価するために他者と協働 するAI関係者によって遂行される。このカテゴリに含まれるAI関係者には、システム運用 担当者、ドメインの専門家、AI設計者、AIシステムの出力を解釈または組み込む利用者、 プロダクト開発者、評価者および監査人、コンプライアンスの専門家、組織のマネジメン ト層、ならびに研究コミュニティの構成員が含まれる。 試験・評価・検証・妥当性確認(TEVV)のタスクは、AIライフサイクル全体を通じて実 施される。これらのタスクは、AIシステムまたはその構成要素を検証し、問題を検出して 是正するAI関係者によって遂行される。理想的には、検証および妥当性確認のタスクを行 うAI関係者は、試験および評価を行うAI関係者とは別であることが望ましい。タスクは、 設計要件に沿って試験が計画される設計段階の早い時期から、各段階に組み込まれ得る。 • 設計、計画、およびデータに関するTEVVのタスクは、展開または適用が意図され る文脈に照らした、システム設計、データ収集、および測定に関する前提の内部お よび外部での妥当性確認を中心とする場合がある。 • 開発(すなわちモデル構築)に関するTEVVのタスクには、モデルの妥当性確認お よび評価が含まれる。 • 展開に関するTEVVのタスクには、本番環境におけるシステムの妥当性確認および 統合、試験、ならびにシステムおよびプロセスの統合、ユーザーエクスペリエン ス、および既存の法的・規制的・倫理的な仕様への準拠に関する再較正が含まれる。 • 運用に関するTEVVのタスクには、モデルの定期的な更新・試験・専門家(SME) による再較正のための継続的なモニタリング、報告されたインシデントやエラー の追跡およびその管理、新興の特性やそれに関連する影響の検知、ならびに是正 および対応のためのプロセスが含まれる。 人間工学に関するタスクおよび活動は、AIライフサイクルのあらゆる側面において見受け られる。これには、人間中心設計の実践および方法論、エンドユーザーその他の利害関係 者および関連するAI関係者の積極的な関与の促進、文脈に固有の規範や価値観のシステム 設計への反映、エンドユーザーエクスペリエンスの評価および適応、ならびにAIライフサ イクルの全段階における人間および人間の動態の幅広い統合が含まれる。人間工学の専門 家は、利用の文脈を理解し、学際的かつ人口統計的な多様性に関する情報を提供し、協議 のプロセスに関与し、ユーザーエクスペリエンスを設計・評価し、人間中心の評価および 試験を実施し、影響評価に資する情報を提供するための、学際的なスキルおよび視点を提 供する。 ドメインの専門家に関するタスクには、AIシステムが利用される業界セクター、経済セク ター、文脈、またはアプリケーション領域に関する知識または専門知識を提供する、学際 的な実務者または研究者からの助言が含まれる。ドメインの専門家であるAI関係者は、AI システムの設計および開発に不可欠な助言を提供するとともに、TEVVおよびAI影響評価 チームの業務を支援するため出力結果を解釈することができる。 AI影響評価のタスクには、とりわけ、AIシステムの説明責任に関する要件の評価、有害な バイアスへの対処、AIシステムの影響の検証、製品安全性、賠償責任、およびセキュリテ ィの評価が含まれる。影響評価者や評価者といったAI関係者は、技術面、人間工学面、社 会文化面、および法務面の専門知識を提供する。 調達タスクは、サードパーティの開発者、ベンダー、または請負業者からAIモデル、製 品、またはサービスを取得するための財務・法務・ポリシー管理上の権限を有するAI関係 者によって実施される。 ガバナンスおよび監督のタスクは、AIシステムが設計、開発、および/または展開される 組織に対して、マネジメント上、受託者としての、および法的な権限と責任を有するAI関 係者が担う。AIガバナンスに責任を負う主要なAI関係者には、組織のマネジメント層、シ ニアリーダーシップ、および取締役会が含まれる。これらの関係者は、組織全体の影響お よび持続可能性に関心を持つ主体である。 その他のAI関係者 サードパーティ事業者には、他の組織または当該組織の顧客もしくは依頼者向けに、デー タ、アルゴリズム、モデル、および/またはシステムならびに関連サービスを提供する提供 者、開発者、ベンダー、および評価者が含まれる。サードパーティ事業者は、その全部ま たは一部について、AIの設計および開発タスクに責任を負う。その定義上、これらの事業 者は、当該技術やサービスを取得する組織の設計・開発・展開チームの外部に位置する。 サードパーティ事業者から取得される技術は複雑または不透明である場合があり、リスク 許容度が展開または運用を行う組織のそれと一致しない場合がある。 AIシステムのエンドユーザーとは、特定の目的のために当該システムを利用する個人または集団である。これらの個人または集団は、特定の文脈においてAIシステムと相互作用す る。エンドユーザーの習熟度は、AIの専門家から技術を初めて利用する者まで幅広く分布 し得る。 影響を受ける個人/コミュニティには、AIシステムまたはAIシステムの出力に基づく決定 によって直接的または間接的に影響を受ける、すべての個人、集団、コミュニティ、また は組織が含まれる。これらの個人は、展開されたシステムやアプリケーションと必ずしも 相互作用するとは限らない。 その他のAI関係者は、AIリスクの特定および管理に関する正式または準正式な規範または ガイダンスを提供し得る。これには、業界団体、標準開発機関、アドボカシー団体、研究 者、環境団体、および市民社会団体が含まれ得る。 一般市民は、AI技術による正負両方の影響を直接的に経験する可能性が最も高い主体であ る。一般市民は、AI関係者が取る行動の動機となる場合がある。このグループには、AIシ ステムが開発または展開される文脈に関連する個人、コミュニティ、および消費者が含ま れ得る。",
          "translation_html": "附属書A: 図2および図3におけるAI関係者のタスクに関する説明 AI設計タスクは、図2に示すAIライフサイクルの「アプリケーションの文脈」および「デー タと入力」の各段階において実施される。AI設計を担う関係者は、AIシステムの概念お よび目標を策定し、AIシステムが適法かつ目的に適したものとなるよう、計画、設計、な らびにデータの収集および処理に関するタスクに責任を負う。タスクには、システムの概 念および目標、前提条件、文脈、ならびに要件の明確化および文書化、データの収集およ びクリーニング、ならびにデータセットのメタデータおよび特性の文書化が含まれる。こ のカテゴリに含まれるAI関係者には、データサイエンティスト、ドメインの専門家、社会 文化的分析の専門家、多様性・公平性・包摂性・アクセシビリティの分野の専門家、影響 を受けるコミュニティの構成員、人間工学の専門家(UX/UIデザインなど)、ガバナンス の専門家、データエンジニア、データ提供者、システムの出資者、プロダクトマネージャ ー、サードパーティ事業者、評価者、ならびに法務およびプライバシーガバナンスの担当 者が含まれる。 AI開発タスクは、図2に示すライフサイクルの「AIモデル」段階において実施される。AI 開発を担う関係者は、AIシステムの初期のインフラストラクチャを提供し、モデルまたは アルゴリズムの作成、選定、較正、学習、および/または試験を伴う、モデルの構築および 解釈に関するタスクに責任を負う。このカテゴリに含まれるAI関係者には、機械学習の専 門家、データサイエンティスト、開発者、サードパーティ事業者、法務およびプライバシ ーガバナンスの専門家、ならびに展開環境に関連する社会文化的・文脈的要因の専門家が 含まれる。 AI展開タスクは、図2に示すライフサイクルの「タスクと出力」段階において実施される。 AI展開を担う関係者は、システムを本番環境へ展開することを確実にするため、AIシステ ムの利用方法に関する文脈上の意思決定に責任を負う。関連するタスクには、システムの 試験導入、既存システムとの互換性の確認、規制遵守の確保、組織的な変更管理、および ユーザーエクスペリエンスの評価が含まれる。このカテゴリに含まれるAI関係者には、シ ステムインテグレーター、ソフトウェア開発者、エンドユーザー、運用担当者および実務 者、評価者、ならびに人間工学、社会文化的分析、およびガバナンスに関する専門知識を 有するドメインの専門家が含まれる。 運用およびモニタリングのタスクは、図2に示すライフサイクルの「アプリケーションの 文脈/運用およびモニタリング」段階において実施される。これらのタスクは、AIシステ ムの運用に責任を負い、システムの出力および影響を定期的に評価するために他者と協働 するAI関係者によって遂行される。このカテゴリに含まれるAI関係者には、システム運用 担当者、ドメインの専門家、AI設計者、AIシステムの出力を解釈または組み込む利用者、 プロダクト開発者、評価者および監査人、コンプライアンスの専門家、組織のマネジメン ト層、ならびに研究コミュニティの構成員が含まれる。 試験・評価・検証・妥当性確認(TEVV)のタスクは、AIライフサイクル全体を通じて実 施される。これらのタスクは、AIシステムまたはその構成要素を検証し、問題を検出して 是正するAI関係者によって遂行される。理想的には、検証および妥当性確認のタスクを行 うAI関係者は、試験および評価を行うAI関係者とは別であることが望ましい。タスクは、 設計要件に沿って試験が計画される設計段階の早い時期から、各段階に組み込まれ得る。 • 設計、計画、およびデータに関するTEVVのタスクは、展開または適用が意図され る文脈に照らした、システム設計、データ収集、および測定に関する前提の内部お よび外部での妥当性確認を中心とする場合がある。 • 開発(すなわちモデル構築)に関するTEVVのタスクには、モデルの妥当性確認お よび評価が含まれる。 • 展開に関するTEVVのタスクには、本番環境におけるシステムの妥当性確認および 統合、試験、ならびにシステムおよびプロセスの統合、ユーザーエクスペリエン ス、および既存の法的・規制的・倫理的な仕様への準拠に関する再較正が含まれる。 • 運用に関するTEVVのタスクには、モデルの定期的な更新・試験・専門家(SME) による再較正のための継続的なモニタリング、報告されたインシデントやエラー の追跡およびその管理、新興の特性やそれに関連する影響の検知、ならびに是正 および対応のためのプロセスが含まれる。 人間工学に関するタスクおよび活動は、AIライフサイクルのあらゆる側面において見受け られる。これには、人間中心設計の実践および方法論、エンドユーザーその他の利害関係 者および関連するAI関係者の積極的な関与の促進、文脈に固有の規範や価値観のシステム 設計への反映、エンドユーザーエクスペリエンスの評価および適応、ならびにAIライフサ イクルの全段階における人間および人間の動態の幅広い統合が含まれる。人間工学の専門 家は、利用の文脈を理解し、学際的かつ人口統計的な多様性に関する情報を提供し、協議 のプロセスに関与し、ユーザーエクスペリエンスを設計・評価し、人間中心の評価および 試験を実施し、影響評価に資する情報を提供するための、学際的なスキルおよび視点を提 供する。 ドメインの専門家に関するタスクには、AIシステムが利用される業界セクター、経済セク ター、文脈、またはアプリケーション領域に関する知識または専門知識を提供する、学際 的な実務者または研究者からの助言が含まれる。ドメインの専門家であるAI関係者は、AI システムの設計および開発に不可欠な助言を提供するとともに、TEVVおよびAI影響評価 チームの業務を支援するため出力結果を解釈することができる。 AI影響評価のタスクには、とりわけ、AIシステムの説明責任に関する要件の評価、有害な バイアスへの対処、AIシステムの影響の検証、製品安全性、賠償責任、およびセキュリテ ィの評価が含まれる。影響評価者や評価者といったAI関係者は、技術面、人間工学面、社 会文化面、および法務面の専門知識を提供する。 調達タスクは、サードパーティの開発者、ベンダー、または請負業者からAIモデル、製 品、またはサービスを取得するための財務・法務・ポリシー管理上の権限を有するAI関係 者によって実施される。 ガバナンスおよび監督のタスクは、AIシステムが設計、開発、および/または展開される 組織に対して、マネジメント上、受託者としての、および法的な権限と責任を有するAI関 係者が担う。AIガバナンスに責任を負う主要なAI関係者には、組織のマネジメント層、シ ニアリーダーシップ、および取締役会が含まれる。これらの関係者は、組織全体の影響お よび持続可能性に関心を持つ主体である。 その他のAI関係者 サードパーティ事業者には、他の組織または当該組織の顧客もしくは依頼者向けに、デー タ、アルゴリズム、モデル、および/またはシステムならびに関連サービスを提供する提供 者、開発者、ベンダー、および評価者が含まれる。サードパーティ事業者は、その全部ま たは一部について、AIの設計および開発タスクに責任を負う。その定義上、これらの事業 者は、当該技術やサービスを取得する組織の設計・開発・展開チームの外部に位置する。 サードパーティ事業者から取得される技術は複雑または不透明である場合があり、リスク 許容度が展開または運用を行う組織のそれと一致しない場合がある。 AIシステムのエンドユーザーとは、特定の目的のために当該システムを利用する個人または集団である。これらの個人または集団は、特定の文脈においてAIシステムと相互作用す る。エンドユーザーの習熟度は、AIの専門家から技術を初めて利用する者まで幅広く分布 し得る。 影響を受ける個人/コミュニティには、AIシステムまたはAIシステムの出力に基づく決定 によって直接的または間接的に影響を受ける、すべての個人、集団、コミュニティ、また は組織が含まれる。これらの個人は、展開されたシステムやアプリケーションと必ずしも 相互作用するとは限らない。 その他のAI関係者は、AIリスクの特定および管理に関する正式または準正式な規範または ガイダンスを提供し得る。これには、業界団体、標準開発機関、アドボカシー団体、研究 者、環境団体、および市民社会団体が含まれ得る。 一般市民は、AI技術による正負両方の影響を直接的に経験する可能性が最も高い主体であ る。一般市民は、AI関係者が取る行動の動機となる場合がある。このグループには、AIシ ステムが開発または展開される文脈に関連する個人、コミュニティ、および消費者が含ま れ得る。"
        }
      ]
    },
    {
      "id": "usg-appendix_b",
      "heading": "Appendix B: How AI Risks Differ from Traditional Software Risks",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "Appendix B: How AI Risks Differ from Traditional Software Risks As with traditional software, risks from AI-based technology can be bigger than an enterprise, span organizations, and lead to societal impacts. AI systems also bring a set of risks that are not comprehensively addressed by current risk frameworks and approaches. Some AI system features that present risks also can be beneficial. For example, pre-trained models and transfer learning can advance research and increase accuracy and resilience when compared to other models and approaches. Identifying contextual factors in the MAP function will assist AI actors in determining the level of risk and potential management efforts.",
          "translation_text": "附属書B: AIリスクが従来型ソフトウェアのリスクと異なる点 従来型ソフトウェアと同様に、AIベースの技術に由来するリスクは、単一の組織の範囲を超え、複数の組織にまたがり、社会的な影響につながる可能性がある。AIシステムはまた、現行のリスクフレームワークやアプローチでは包括的に対処されていない一連のリスクをもたらす。リスクをもたらすAIシステムの特性の中には、有益にもなり得るものがある。例えば、事前学習済みモデルや転移学習は、他のモデルやアプローチと比較して、研究を進展させ、精度や頑健性を高めることができる。MAP機能において文脈的要因を特定することは、AI関係者がリスクの水準や必要となり得るリスクマネジメントの取組みを判断する上で役立つ。",
          "translation_html": "附属書B: AIリスクが従来型ソフトウェアのリスクと異なる点 従来型ソフトウェアと同様に、AIベースの技術に由来するリスクは、単一の組織の範囲を超え、複数の組織にまたがり、社会的な影響につながる可能性がある。AIシステムはまた、現行のリスクフレームワークやアプローチでは包括的に対処されていない一連のリスクをもたらす。リスクをもたらすAIシステムの特性の中には、有益にもなり得るものがある。例えば、事前学習済みモデルや転移学習は、他のモデルやアプローチと比較して、研究を進展させ、精度や頑健性を高めることができる。MAP機能において文脈的要因を特定することは、AI関係者がリスクの水準や必要となり得るリスクマネジメントの取組みを判断する上で役立つ。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Compared to traditional software, AI-specific risks that are new or increased include the following:",
          "translation_text": "従来型ソフトウェアと比較して、AIに特有の、新規または増大したリスクには以下が含まれる。",
          "translation_html": "従来型ソフトウェアと比較して、AIに特有の、新規または増大したリスクには以下が含まれる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• The data used for building an AI system may not be a true or appropriate representation of the context or intended use of the AI system, and the ground truth may either not exist or not be available. Additionally, harmful bias and other data quality issues can affect AI system trustworthiness, which could lead to negative impacts. • AI system dependency and reliance on data for training tasks, combined with increased volume and complexity typically associated with such data. • Intentional or unintentional changes during training may fundamentally alter AI system performance. • Datasets used to train AI systems may become detached from their original and intended context or may become stale or outdated relative to deployment context. • AI system scale and complexity (many systems contain billions or even trillions of decision points) housed within more traditional software applications. • Use of pre-trained models that can advance research and improve performance can also increase levels of statistical uncertainty and cause issues with bias management, scientific validity, and reproducibility. • Higher degree of difficulty in predicting failure modes for emergent properties of large-scale pre-trained models. • Privacy risk due to enhanced data aggregation capability for AI systems. • AI systems may require more frequent maintenance and triggers for conducting corrective maintenance due to data, model, or concept drift. • Increased opacity and concerns about reproducibility. • Underdeveloped software testing standards and inability to document AI-based practices to the standard expected of traditionally engineered software for all but the simplest of cases. • Difficulty in performing regular AI-based software testing, or determining what to test, since AI systems are not subject to the same controls as traditional code development.",
          "translation_text": "・AIシステムの構築に用いられるデータは、当該AIシステムの文脈や意図された用途を真に、あるいは適切に表しているとは限らず、また、グラウンドトゥルースが存在しない、あるいは入手できない場合がある。加えて、有害なバイアスやその他のデータ品質上の問題は、AIシステムの信頼性に影響を及ぼし、これが負の影響につながる可能性がある。 ・AIシステムは、学習タスクのためのデータへの依存度が高く、こうしたデータには通常、量と複雑性の増大が伴う。 ・学習中の意図的または非意図的な変更により、AIシステムの性能が根本的に変化することがある。 ・AIシステムの学習に用いられるデータセットは、当初意図されていた文脈から切り離されてしまったり、展開時の文脈に対して古くなったり陳腐化したりすることがある。 ・より従来型のソフトウェアアプリケーション内に収められたAIシステムの規模と複雑性(多くのシステムは数十億、時には数兆に及ぶ意思決定点を含む)。 ・研究を進展させ性能を向上させ得る事前学習済みモデルの利用は、同時に統計的不確実性の水準を高め、バイアス管理、科学的妥当性、再現性に関する問題を生じさせることがある。 ・大規模な事前学習済みモデルの創発的特性について、故障モードを予測することの困難性が高いこと。 ・AIシステムにおけるデータ集約能力の向上に起因するプライバシーリスク。 ・AIシステムは、データ、モデル、または概念のドリフトにより、より頻繁な保守や是正保守を行うための契機を必要とする場合がある。 ・不透明性の増大と再現性に関する懸念。 ・ソフトウェアテスト基準が未成熟であり、最も単純な場合を除き、従来型のエンジニアリングによるソフトウェアに期待される水準でAIベースの手法を文書化することができないこと。 ・AIシステムは従来のコード開発と同様の管理を受けないため、AIベースのソフトウェアの定期的なテストの実施や、何をテストすべきかの判断が困難であること。",
          "translation_html": "・AIシステムの構築に用いられるデータは、当該AIシステムの文脈や意図された用途を真に、あるいは適切に表しているとは限らず、また、グラウンドトゥルースが存在しない、あるいは入手できない場合がある。加えて、有害なバイアスやその他のデータ品質上の問題は、AIシステムの信頼性に影響を及ぼし、これが負の影響につながる可能性がある。 ・AIシステムは、学習タスクのためのデータへの依存度が高く、こうしたデータには通常、量と複雑性の増大が伴う。 ・学習中の意図的または非意図的な変更により、AIシステムの性能が根本的に変化することがある。 ・AIシステムの学習に用いられるデータセットは、当初意図されていた文脈から切り離されてしまったり、展開時の文脈に対して古くなったり陳腐化したりすることがある。 ・より従来型のソフトウェアアプリケーション内に収められたAIシステムの規模と複雑性(多くのシステムは数十億、時には数兆に及ぶ意思決定点を含む)。 ・研究を進展させ性能を向上させ得る事前学習済みモデルの利用は、同時に統計的不確実性の水準を高め、バイアス管理、科学的妥当性、再現性に関する問題を生じさせることがある。 ・大規模な事前学習済みモデルの創発的特性について、故障モードを予測することの困難性が高いこと。 ・AIシステムにおけるデータ集約能力の向上に起因するプライバシーリスク。 ・AIシステムは、データ、モデル、または概念のドリフトにより、より頻繁な保守や是正保守を行うための契機を必要とする場合がある。 ・不透明性の増大と再現性に関する懸念。 ・ソフトウェアテスト基準が未成熟であり、最も単純な場合を除き、従来型のエンジニアリングによるソフトウェアに期待される水準でAIベースの手法を文書化することができないこと。 ・AIシステムは従来のコード開発と同様の管理を受けないため、AIベースのソフトウェアの定期的なテストの実施や、何をテストすべきかの判断が困難であること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• Computational costs for developing AI systems and their impact on the environment and planet. • Inability to predict or detect the side effects of AI-based systems beyond statistical measures.",
          "translation_text": "・AIシステムの開発に伴う計算コスト、および環境や地球への影響。 ・統計的な尺度を超えて、AIベースのシステムの副次的影響を予測または検知することができないこと。",
          "translation_html": "・AIシステムの開発に伴う計算コスト、および環境や地球への影響。 ・統計的な尺度を超えて、AIベースのシステムの副次的影響を予測または検知することができないこと。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Privacy and cybersecurity risk management considerations and approaches are applicable in the design, development, deployment, evaluation, and use of AI systems. Privacy and cybersecurity risks are also considered as part of broader enterprise risk management considerations, which may incorporate AI risks. As part of the effort to address AI trustworthiness characteristics such as “Secure and Resilient” and “Privacy-Enhanced,” organizations may consider leveraging available standards and guidance that provide broad guidance to organizations to reduce security and privacy risks, such as, but not limited to, the NIST Cybersecurity Framework, the NIST Privacy Framework, the NIST Risk Management Framework, and the Secure Software Development Framework. These frameworks have some features in common with the AI RMF. Like most risk management approaches, they are outcome-based rather than prescriptive and are often structured around a Core set of functions, categories, and subcategories. While there are significant differences between these frameworks based on the domain addressed – and because AI risk management calls for addressing many other types of risks – frameworks like those mentioned above may inform security and privacy considerations in the MAP, MEASURE, and MANAGE functions of the AI RMF.",
          "translation_text": "プライバシー及びサイバーセキュリティのリスクマネジメントに関する考慮事項及びアプローチは、AIシステムの設計、開発、展開、評価、及び利用のいずれの段階にも適用され得る。プライバシー及びサイバーセキュリティのリスクは、AIリスクを組み込み得るより広範な組織的リスクマネジメントの一部としても考慮される。「セキュアでレジリエントであること」及び「プライバシーが強化されていること」といったAIの信頼性の特性に対処する取組みの一環として、組織は、セキュリティ及びプライバシーのリスクを低減するために組織に対して幅広い指針を提供する、NISTサイバーセキュリティフレームワーク、NISTプライバシーフレームワーク、NISTリスクマネジメントフレームワーク、セキュアソフトウェア開発フレームワークなど(これらに限定されない)、既存の規格やガイダンスの活用を検討することが望ましい。これらのフレームワークは、AI RMFといくつかの特徴を共有している。多くのリスクマネジメントのアプローチと同様に、これらは規範的というよりも成果志向であり、多くの場合、機能、カテゴリー、サブカテゴリーから成る「コア」を中心に構成されている。対象とする領域の違いに基づき、これらのフレームワークとAI RMFとの間には大きな相違点があるものの――また、AIリスクマネジメントでは他の多くの種類のリスクへの対処も求められることから――上記のようなフレームワークは、AI RMFのMAP、MEASURE、MANAGEの各機能におけるセキュリティ及びプライバシーに関する検討事項の参考となり得る。",
          "translation_html": "プライバシー及びサイバーセキュリティのリスクマネジメントに関する考慮事項及びアプローチは、AIシステムの設計、開発、展開、評価、及び利用のいずれの段階にも適用され得る。プライバシー及びサイバーセキュリティのリスクは、AIリスクを組み込み得るより広範な組織的リスクマネジメントの一部としても考慮される。「セキュアでレジリエントであること」及び「プライバシーが強化されていること」といったAIの信頼性の特性に対処する取組みの一環として、組織は、セキュリティ及びプライバシーのリスクを低減するために組織に対して幅広い指針を提供する、NISTサイバーセキュリティフレームワーク、NISTプライバシーフレームワーク、NISTリスクマネジメントフレームワーク、セキュアソフトウェア開発フレームワークなど(これらに限定されない)、既存の規格やガイダンスの活用を検討することが望ましい。これらのフレームワークは、AI RMFといくつかの特徴を共有している。多くのリスクマネジメントのアプローチと同様に、これらは規範的というよりも成果志向であり、多くの場合、機能、カテゴリー、サブカテゴリーから成る「コア」を中心に構成されている。対象とする領域の違いに基づき、これらのフレームワークとAI RMFとの間には大きな相違点があるものの――また、AIリスクマネジメントでは他の多くの種類のリスクへの対処も求められることから――上記のようなフレームワークは、AI RMFのMAP、MEASURE、MANAGEの各機能におけるセキュリティ及びプライバシーに関する検討事項の参考となり得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "At the same time, guidance available before publication of this AI RMF does not comprehensively address many AI system risks. For example, existing frameworks and guidance are unable to:",
          "translation_text": "同時に、本AI RMFの公表以前に存在していたガイダンスは、多くのAIシステムのリスクを包括的には扱っていない。例えば、既存のフレームワークやガイダンスでは、以下のことができない。",
          "translation_html": "同時に、本AI RMFの公表以前に存在していたガイダンスは、多くのAIシステムのリスクを包括的には扱っていない。例えば、既存のフレームワークやガイダンスでは、以下のことができない。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "• adequately manage the problem of harmful bias in AI systems; • confront the challenging risks related to generative AI; • comprehensively address security concerns related to evasion, model extraction, membership inference, availability, or other machine learning attacks; • account for the complex attack surface of AI systems or other security abuses enabled by AI systems; and • consider risks associated with third-party AI technologies, transfer learning, and offlabel use where AI systems may be trained for decision-making outside an organization’s security controls or trained in one domain and then “fine-tuned” for another.",
          "translation_text": "・AIシステムにおける有害なバイアスの問題に十分に対処すること。 ・生成AIに関連する困難なリスクに立ち向かうこと。 ・回避、モデル抽出、メンバーシップ推論、可用性、その他の機械学習に対する攻撃に関連するセキュリティ上の懸念に包括的に対処すること。 ・AIシステムの複雑な攻撃対象領域、またはAIシステムによって可能となるその他のセキュリティ上の悪用を考慮に入れること。 ・第三者によるAI技術、転移学習、及び「オフラベル」利用――AIシステムが組織のセキュリティ管理の枠外で意思決定のために学習される場合や、ある領域で学習されたモデルが別の領域向けに「ファインチューニング」される場合――に関連するリスクを考慮すること。",
          "translation_html": "・AIシステムにおける有害なバイアスの問題に十分に対処すること。 ・生成AIに関連する困難なリスクに立ち向かうこと。 ・回避、モデル抽出、メンバーシップ推論、可用性、その他の機械学習に対する攻撃に関連するセキュリティ上の懸念に包括的に対処すること。 ・AIシステムの複雑な攻撃対象領域、またはAIシステムによって可能となるその他のセキュリティ上の悪用を考慮に入れること。 ・第三者によるAI技術、転移学習、及び「オフラベル」利用――AIシステムが組織のセキュリティ管理の枠外で意思決定のために学習される場合や、ある領域で学習されたモデルが別の領域向けに「ファインチューニング」される場合――に関連するリスクを考慮すること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Both AI and traditional software technologies and systems are subject to rapid innovation. Technology advances should be monitored and deployed to take advantage of those developments and work towards a future of AI that is both trustworthy and responsible.",
          "translation_text": "AI技術及び従来型のソフトウェア技術・システムは、いずれも急速な技術革新の対象となっている。こうした技術の進歩を注視し、それらの進展を活かす形で展開を進め、信頼でき、かつ責任あるAIの未来に向けて取り組んでいくべきである。",
          "translation_html": "AI技術及び従来型のソフトウェア技術・システムは、いずれも急速な技術革新の対象となっている。こうした技術の進歩を注視し、それらの進展を活かす形で展開を進め、信頼でき、かつ責任あるAIの未来に向けて取り組んでいくべきである。"
        }
      ]
    },
    {
      "id": "usg-appendix_c",
      "heading": "Appendix C: AI Risk Management and Human-AI Interaction",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "Appendix C: AI Risk Management and Human-AI Interaction Organizations that design, develop, or deploy AI systems for use in operational settings may enhance their AI risk management by understanding current limitations of humanAI interaction. The AI RMF provides opportunities to clearly define and differentiate the various human roles and responsibilities when using, interacting with, or managing AI systems.",
          "translation_text": "附属書C: AIリスクマネジメントと人間とAIとの相互作用 運用環境で使用するAIシステムを設計、開発、または展開する組織は、人間とAIとの相互作用に関する現在の限界を理解することで、自らのAIリスクマネジメントを強化することができる。AI RMFは、AIシステムを利用、操作、または管理する際の様々な人間の役割と責任を明確に定義し、区別する機会を提供する。",
          "translation_html": "附属書C: AIリスクマネジメントと人間とAIとの相互作用 運用環境で使用するAIシステムを設計、開発、または展開する組織は、人間とAIとの相互作用に関する現在の限界を理解することで、自らのAIリスクマネジメントを強化することができる。AI RMFは、AIシステムを利用、操作、または管理する際の様々な人間の役割と責任を明確に定義し、区別する機会を提供する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Many of the data-driven approaches that AI systems rely on attempt to convert or represent individual and social observational and decision-making practices into measurable quantities. Representing complex human phenomena with mathematical models can come at the cost of removing necessary context. This loss of context may in turn make it difficult to understand individual and societal impacts that are key to AI risk management efforts.",
          "translation_text": "AIシステムが依拠するデータ駆動型のアプローチの多くは、個人及び社会における観察や意思決定の実践を、測定可能な量へと変換または表現しようとするものである。複雑な人間の現象を数理モデルで表現することは、必要な文脈を失わせるという代償を伴い得る。この文脈の喪失は、ひいては、AIリスクマネジメントの取組みにとって鍵となる、個人及び社会への影響の理解を困難にする可能性がある。",
          "translation_html": "AIシステムが依拠するデータ駆動型のアプローチの多くは、個人及び社会における観察や意思決定の実践を、測定可能な量へと変換または表現しようとするものである。複雑な人間の現象を数理モデルで表現することは、必要な文脈を失わせるという代償を伴い得る。この文脈の喪失は、ひいては、AIリスクマネジメントの取組みにとって鍵となる、個人及び社会への影響の理解を困難にする可能性がある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "Issues that merit further consideration and research include:",
          "translation_text": "さらなる検討及び研究に値する論点には、以下のものが含まれる。",
          "translation_html": "さらなる検討及び研究に値する論点には、以下のものが含まれる。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1. Human roles and responsibilities in decision making and overseeing AI systems need to be clearly defined and differentiated. Human-AI configurations can span from fully autonomous to fully manual. AI systems can autonomously make decisions, defer decision making to a human expert, or be used by a human decision maker as an additional opinion. Some AI systems may not require human oversight, such as models used to improve video compression. Other systems may specifically require human oversight.",
          "translation_text": "1. AIシステムに関する意思決定及びその監督における人間の役割と責任は、明確に定義され、区別される必要がある。人間とAIの構成は、完全自律型から完全手動型まで幅がある。AIシステムは自律的に意思決定を行うこともあれば、意思決定を人間の専門家に委ねることもあり、あるいは人間の意思決定者によって追加的な見解として利用されることもある。動画圧縮の改善に用いられるモデルのように、人間による監督を必要としないAIシステムもある。一方で、人間による監督を特に必要とするシステムもある。",
          "translation_html": "1. AIシステムに関する意思決定及びその監督における人間の役割と責任は、明確に定義され、区別される必要がある。人間とAIの構成は、完全自律型から完全手動型まで幅がある。AIシステムは自律的に意思決定を行うこともあれば、意思決定を人間の専門家に委ねることもあり、あるいは人間の意思決定者によって追加的な見解として利用されることもある。動画圧縮の改善に用いられるモデルのように、人間による監督を必要としないAIシステムもある。一方で、人間による監督を特に必要とするシステムもある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "2. Decisions that go into the design, development, deployment, evaluation, and use of AI systems reflect systemic and human cognitive biases. AI actors bring their cognitive biases, both individual and group, into the process. Biases can stem from end-user decision-making tasks and be introduced across the AI lifecycle via human assumptions, expectations, and decisions during design and modeling tasks. These biases, which are not necessarily always harmful, may be exacerbated by AI system opacity and the resulting lack of transparency. Systemic biases at the organizational level can influence how teams are structured and who controls the decision-making processes throughout the AI lifecycle. These biases can also influence downstream decisions by end users, decision makers, and policy makers and may lead to negative impacts.",
          "translation_text": "2. AIシステムの設計、開発、展開、評価、及び利用に関わる意思決定には、システミックバイアス及び人間の認知バイアスが反映される。AIアクターは、個人及び集団としての認知バイアスをこのプロセスに持ち込む。バイアスは、エンドユーザーによる意思決定タスクに由来する場合もあれば、設計及びモデリングのタスクにおける人間の想定、期待、及び判断を通じて、AIのライフサイクル全体にわたって持ち込まれる場合もある。こうしたバイアスは必ずしも常に有害であるとは限らないが、AIシステムの不透明性及びそれに伴う透明性の欠如によって助長されることがある。組織レベルにおけるシステミックバイアスは、チームがどのように編成されるか、及びAIのライフサイクル全体を通じて誰が意思決定プロセスを統制するかに影響を与え得る。こうしたバイアスはまた、エンドユーザー、意思決定者、及び政策立案者による下流の意思決定にも影響を及ぼし得るものであり、負の影響につながることがある。",
          "translation_html": "2. AIシステムの設計、開発、展開、評価、及び利用に関わる意思決定には、システミックバイアス及び人間の認知バイアスが反映される。AIアクターは、個人及び集団としての認知バイアスをこのプロセスに持ち込む。バイアスは、エンドユーザーによる意思決定タスクに由来する場合もあれば、設計及びモデリングのタスクにおける人間の想定、期待、及び判断を通じて、AIのライフサイクル全体にわたって持ち込まれる場合もある。こうしたバイアスは必ずしも常に有害であるとは限らないが、AIシステムの不透明性及びそれに伴う透明性の欠如によって助長されることがある。組織レベルにおけるシステミックバイアスは、チームがどのように編成されるか、及びAIのライフサイクル全体を通じて誰が意思決定プロセスを統制するかに影響を与え得る。こうしたバイアスはまた、エンドユーザー、意思決定者、及び政策立案者による下流の意思決定にも影響を及ぼし得るものであり、負の影響につながることがある。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3. Human-AI interaction results vary. Under certain conditions – for example, in perceptual-based judgment tasks – the AI part of the human-AI interaction can amplify human biases, leading to more biased decisions than the AI or human alone. When these variations are judiciously taken into account in organizing human-AI teams, however, they can result in complementarity and improved overall performance.",
          "translation_text": "3. 人間とAIとの相互作用の結果は一様ではない。例えば知覚に基づく判断タスクなど、特定の条件下では、人間とAIとの相互作用のうちAIに関わる部分が人間のバイアスを増幅させ、AI単独あるいは人間単独の場合よりも偏った意思決定につながることがある。しかしながら、こうしたばらつきを人間とAIのチーム編成において適切に考慮に入れることで、相互補完性が生まれ、全体としての性能向上につながり得る。",
          "translation_html": "3. 人間とAIとの相互作用の結果は一様ではない。例えば知覚に基づく判断タスクなど、特定の条件下では、人間とAIとの相互作用のうちAIに関わる部分が人間のバイアスを増幅させ、AI単独あるいは人間単独の場合よりも偏った意思決定につながることがある。しかしながら、こうしたばらつきを人間とAIのチーム編成において適切に考慮に入れることで、相互補完性が生まれ、全体としての性能向上につながり得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "4. Presenting AI system information to humans is complex. Humans perceive and derive meaning from AI system output and explanations in different ways, reflecting different individual preferences, traits, and skills.",
          "translation_text": "4. AIシステムの情報を人間に提示することは複雑な作業である。人間は、個々に異なる嗜好、特性、及びスキルを反映して、AIシステムの出力や説明をそれぞれ異なる形で知覚し、意味を見出す。",
          "translation_html": "4. AIシステムの情報を人間に提示することは複雑な作業である。人間は、個々に異なる嗜好、特性、及びスキルを反映して、AIシステムの出力や説明をそれぞれ異なる形で知覚し、意味を見出す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The GOVERN function provides organizations with the opportunity to clarify and define the roles and responsibilities for the humans in the Human-AI team configurations and those who are overseeing the AI system performance. The GOVERN function also creates mechanisms for organizations to make their decision-making processes more explicit, to help counter systemic biases.",
          "translation_text": "GOVERN機能は、人間とAIとのチーム編成における人間の役割と責任、及びAIシステムの性能を監督する人間の役割と責任を、組織が明確化し定義する機会を提供する。GOVERN機能はまた、システミックバイアスに対抗する一助として、組織が自らの意思決定プロセスをより明示的なものとするための仕組みを生み出す。",
          "translation_html": "GOVERN機能は、人間とAIとのチーム編成における人間の役割と責任、及びAIシステムの性能を監督する人間の役割と責任を、組織が明確化し定義する機会を提供する。GOVERN機能はまた、システミックバイアスに対抗する一助として、組織が自らの意思決定プロセスをより明示的なものとするための仕組みを生み出す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The MAP function suggests opportunities to define and document processes for operator and practitioner proficiency with AI system performance and trustworthiness concepts, and to define relevant technical standards and certifications. Implementing MAP function categories and subcategories may help organizations improve their internal competency for analyzing context, identifying procedural and system limitations, exploring and examining impacts of AI-based systems in the real world, and evaluating decision-making processes throughout the AI lifecycle.",
          "translation_text": "MAP機能は、AIシステムの性能及び信頼性に関する概念について、オペレーター及び実務者の習熟度を高めるためのプロセスを定義し文書化する機会、並びに関連する技術規格及び認証を定義する機会を示唆する。MAP機能のカテゴリー及びサブカテゴリーを実施することは、文脈を分析し、手続き上及びシステム上の限界を特定し、現実世界におけるAIベースシステムの影響を探索・検証し、AIのライフサイクル全体を通じた意思決定プロセスを評価するための組織内部の能力を向上させる一助となり得る。",
          "translation_html": "MAP機能は、AIシステムの性能及び信頼性に関する概念について、オペレーター及び実務者の習熟度を高めるためのプロセスを定義し文書化する機会、並びに関連する技術規格及び認証を定義する機会を示唆する。MAP機能のカテゴリー及びサブカテゴリーを実施することは、文脈を分析し、手続き上及びシステム上の限界を特定し、現実世界におけるAIベースシステムの影響を探索・検証し、AIのライフサイクル全体を通じた意思決定プロセスを評価するための組織内部の能力を向上させる一助となり得る。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The GOVERN and MAP functions describe the importance of interdisciplinarity and demographically diverse teams and utilizing feedback from potentially impacted individuals and communities. AI actors called out in the AI RMF who perform human factors tasks and activities can assist technical teams by anchoring in design and development practices to user intentions and representatives of the broader AI community, and societal values. These actors further help to incorporate context-specific norms and values in system design and evaluate end user experiences – in conjunction with AI systems.",
          "translation_text": "GOVERN機能及びMAP機能は、学際性及び人口統計学的に多様なチームの重要性、並びに影響を受ける可能性のある個人及びコミュニティからのフィードバックを活用することの重要性を説いている。AI RMFで挙げられている、ヒューマンファクターに関するタスクや活動を担うAIアクターは、設計・開発の実践をユーザーの意図並びにより広範なAIコミュニティの代表者及び社会的価値観に結びつけることで、技術チームを支援することができる。これらのアクターはさらに、文脈固有の規範及び価値観をシステム設計に組み込むこと、及びAIシステムと連携したエンドユーザー体験を評価することにも寄与する。",
          "translation_html": "GOVERN機能及びMAP機能は、学際性及び人口統計学的に多様なチームの重要性、並びに影響を受ける可能性のある個人及びコミュニティからのフィードバックを活用することの重要性を説いている。AI RMFで挙げられている、ヒューマンファクターに関するタスクや活動を担うAIアクターは、設計・開発の実践をユーザーの意図並びにより広範なAIコミュニティの代表者及び社会的価値観に結びつけることで、技術チームを支援することができる。これらのアクターはさらに、文脈固有の規範及び価値観をシステム設計に組み込むこと、及びAIシステムと連携したエンドユーザー体験を評価することにも寄与する。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "AI risk management approaches for human-AI configurations will be augmented by ongoing research and evaluation. For example, the degree to which humans are empowered and incentivized to challenge AI system output requires further studies. Data about the frequency and rationale with which humans overrule AI system output in deployed systems may be useful to collect and analyze.",
          "translation_text": "人間とAIとの構成に対するAIリスクマネジメントのアプローチは、今後の研究及び評価によって拡充されていくものである。例えば、AIシステムの出力に異議を唱えることについて、人間がどの程度権限を与えられ、また動機づけられているかについては、さらなる研究が必要である。展開されたシステムにおいて、人間がAIシステムの出力を覆す頻度及びその根拠に関するデータを収集し、分析することは有用と考えられる。",
          "translation_html": "人間とAIとの構成に対するAIリスクマネジメントのアプローチは、今後の研究及び評価によって拡充されていくものである。例えば、AIシステムの出力に異議を唱えることについて、人間がどの程度権限を与えられ、また動機づけられているかについては、さらなる研究が必要である。展開されたシステムにおいて、人間がAIシステムの出力を覆す頻度及びその根拠に関するデータを収集し、分析することは有用と考えられる。"
        }
      ]
    },
    {
      "id": "usg-appendix_d",
      "heading": "Appendix D: Attributes of the AI RMF",
      "blocks": [
        {
          "type": "bilingual_paragraph",
          "original": "Appendix D: Attributes of the AI RMF NIST described several key attributes of the AI RMF when work on the Framework first began. These attributes have remained intact and were used to guide the AI RMF’s development. They are provided here as a reference.",
          "translation_text": "附属書D: AI RMFの特性 NISTは、本フレームワークに関する作業に着手した当初、AI RMFのいくつかの主要な特性について説明した。これらの特性は一貫して維持されており、AI RMFの策定を導く指針として用いられてきた。以下では参考として、それらを示す。",
          "translation_html": "附属書D: AI RMFの特性 NISTは、本フレームワークに関する作業に着手した当初、AI RMFのいくつかの主要な特性について説明した。これらの特性は一貫して維持されており、AI RMFの策定を導く指針として用いられてきた。以下では参考として、それらを示す。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "The AI RMF strives to:",
          "translation_text": "AI RMFは、以下を目指すものである。",
          "translation_html": "AI RMFは、以下を目指すものである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "1. Be risk-based, resource-efficient, pro-innovation, and voluntary.",
          "translation_text": "1. リスクベースであり、資源効率的であり、イノベーションを促進するものであり、かつ任意のものであること。",
          "translation_html": "1. リスクベースであり、資源効率的であり、イノベーションを促進するものであり、かつ任意のものであること。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "2. Be consensus-driven and developed and regularly updated through an open, transparent process. All stakeholders should have the opportunity to contribute to the AI RMF’s development.",
          "translation_text": "2. コンセンサスに基づくものであり、開かれた透明性のあるプロセスを通じて策定され、また定期的に更新されるものであること。すべてのステークホルダーが、AI RMFの策定に貢献する機会を持つべきである。",
          "translation_html": "2. コンセンサスに基づくものであり、開かれた透明性のあるプロセスを通じて策定され、また定期的に更新されるものであること。すべてのステークホルダーが、AI RMFの策定に貢献する機会を持つべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "3. Use clear and plain language that is understandable by a broad audience, including senior executives, government officials, non-governmental organization leadership, and those who are not AI professionals – while still of sufficient technical depth to be useful to practitioners. The AI RMF should allow for communication of AI risks across an organization, between organizations, with customers, and to the public at large.",
          "translation_text": "3. 上級幹部、政府関係者、非政府組織の指導者、及びAIの専門家ではない人々を含む幅広い層が理解できる、明確で平易な言葉を用いること――同時に、実務者にとって有用であるだけの十分な技術的深度を備えていること。AI RMFは、組織内、組織間、顧客との間、及び社会全般に向けて、AIリスクに関するコミュニケーションを可能にするものであるべきである。",
          "translation_html": "3. 上級幹部、政府関係者、非政府組織の指導者、及びAIの専門家ではない人々を含む幅広い層が理解できる、明確で平易な言葉を用いること――同時に、実務者にとって有用であるだけの十分な技術的深度を備えていること。AI RMFは、組織内、組織間、顧客との間、及び社会全般に向けて、AIリスクに関するコミュニケーションを可能にするものであるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "4. Provide common language and understanding to manage AI risks. The AI RMF should offer taxonomy, terminology, definitions, metrics, and characterizations for AI risk.",
          "translation_text": "4. AIリスクをマネジメントするための共通言語及び共通理解を提供すること。AI RMFは、AIリスクに関する分類法、用語、定義、指標、及び特性の記述を提供するべきである。",
          "translation_html": "4. AIリスクをマネジメントするための共通言語及び共通理解を提供すること。AI RMFは、AIリスクに関する分類法、用語、定義、指標、及び特性の記述を提供するべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "5. Be easily usable and fit well with other aspects of risk management. Use of the Framework should be intuitive and readily adaptable as part of an organization’s broader risk management strategy and processes. It should be consistent or aligned with other approaches to managing AI risks.",
          "translation_text": "5. 使いやすく、リスクマネジメントの他の側面ともよく調和すること。本フレームワークの利用は、組織のより広範なリスクマネジメント戦略及びプロセスの一部として、直感的で、容易に適合できるものであるべきである。また、AIリスクをマネジメントするための他のアプローチと整合し、または一致しているべきである。",
          "translation_html": "5. 使いやすく、リスクマネジメントの他の側面ともよく調和すること。本フレームワークの利用は、組織のより広範なリスクマネジメント戦略及びプロセスの一部として、直感的で、容易に適合できるものであるべきである。また、AIリスクをマネジメントするための他のアプローチと整合し、または一致しているべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "6. Be useful to a wide range of perspectives, sectors, and technology domains. The AI RMF should be universally applicable to any AI technology and to context-specific use cases.",
          "translation_text": "6. 幅広い視点、分野、及び技術領域にとって有用であること。AI RMFは、あらゆるAI技術及び文脈固有のユースケースに対して普遍的に適用可能であるべきである。",
          "translation_html": "6. 幅広い視点、分野、及び技術領域にとって有用であること。AI RMFは、あらゆるAI技術及び文脈固有のユースケースに対して普遍的に適用可能であるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "7. Be outcome-focused and non-prescriptive. The Framework should provide a catalog of outcomes and approaches rather than prescribe one-size-fits-all requirements.",
          "translation_text": "7. 成果志向であり、規範的でないこと。本フレームワークは、画一的な要件を規定するのではなく、成果及びアプローチの目録を提供するべきである。",
          "translation_html": "7. 成果志向であり、規範的でないこと。本フレームワークは、画一的な要件を規定するのではなく、成果及びアプローチの目録を提供するべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "8. Take advantage of and foster greater awareness of existing standards, guidelines, best practices, methodologies, and tools for managing AI risks – as well as illustrate the need for additional, improved resources.",
          "translation_text": "8. AIリスクをマネジメントするための既存の規格、ガイドライン、ベストプラクティス、方法論、及びツールを活用し、それらに対する認識をより一層高めること――あわせて、追加的で改善された資源の必要性を示すこと。",
          "translation_html": "8. AIリスクをマネジメントするための既存の規格、ガイドライン、ベストプラクティス、方法論、及びツールを活用し、それらに対する認識をより一層高めること――あわせて、追加的で改善された資源の必要性を示すこと。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "9. Be law- and regulation-agnostic. The Framework should support organizations’ abilities to operate under applicable domestic and international legal or regulatory regimes.",
          "translation_text": "9. 法令及び規制に対して中立であること。本フレームワークは、該当する国内及び国際の法令・規制上の枠組みの下で組織が業務を遂行する能力を支えるものであるべきである。",
          "translation_html": "9. 法令及び規制に対して中立であること。本フレームワークは、該当する国内及び国際の法令・規制上の枠組みの下で組織が業務を遂行する能力を支えるものであるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "10. Be a living document. The AI RMF should be readily updated as technology, understanding, and approaches to AI trustworthiness and uses of AI change and as stakeholders learn from implementing AI risk management generally and this framework in particular.",
          "translation_text": "10. 生きた文書であること。AI RMFは、技術、理解、及びAIの信頼性やAIの用途に関するアプローチの変化に応じて、また、AIリスクマネジメント全般及び本フレームワークの実践からステークホルダーが学んだ知見に応じて、随時更新されるべきである。",
          "translation_html": "10. 生きた文書であること。AI RMFは、技術、理解、及びAIの信頼性やAIの用途に関するアプローチの変化に応じて、また、AIリスクマネジメント全般及び本フレームワークの実践からステークホルダーが学んだ知見に応じて、随時更新されるべきである。"
        },
        {
          "type": "bilingual_paragraph",
          "original": "This publication is available free of charge from: https://doi.org/10.6028/NIST.AI.100-1",
          "translation_text": "本刊行物は、以下より無料で入手可能である。 https://doi.org/10.6028/NIST.AI.100-1",
          "translation_html": "本刊行物は、以下より無料で入手可能である。 https://doi.org/10.6028/NIST.AI.100-1"
        }
      ]
    }
  ]
}