テレビ・ドラマ

視点・論点「AIのリスク どう向き合うか」内容は？ハルシネーション・制御の喪失・認知攻撃を解説｜8/11｜8/11 12:50

  • 登録：

2026年8月11日（火）12:50からNHK Eテレで放送される「視点・論点 選 AIのリスク どう向き合うか」では、生成AIが急速に社会へ入り込む中で無視できないリスクを、AIガバナンスの専門家・羽深宏樹さんが読み解きます。

番組予告で示されているキーワードは、「ハルシネーション」「制御の喪失」「ディープフェイクによる認知攻撃」の3つです。AIの便利さだけではなく、誤情報をもっともらしく出す問題、自律的なAIが人間の意図を外れて動く問題、偽の映像や音声が人の判断を揺さぶる問題まで扱う10分間となります。

8月11日の放送には「選」と付いており、同テーマは2026年7月15日にEテレで放送されています。この記事では、放送前に知っておきたい用語の意味と、2026年時点の日本のAI安全政策・ガイドラインを合わせて整理します。

この記事の要点

  • 8月11日（火）12:50～13:00、NHK Eテレで放送
  • 出演は京都大学大学院法学研究科特任教授・羽深宏樹さん
  • 元放送は2026年7月15日で、8月11日は「選」放送
  • 主な論点はハルシネーション、AIの制御、ディープフェイクと認知攻撃
  • 2026年7月にはJapan AISIがAIエージェントの「観測と制御」を盛り込んだ安全評価ガイドを更新

視点・論点「AIのリスク どう向き合うか」の放送日時・出演者

番組名視点・論点 選 AIのリスク どう向き合うか
放送局NHK Eテレ
放送日2026年8月11日（火）
放送時間12:50～13:00
出演羽深宏樹（京都大学大学院法学研究科 特任教授）
元放送2026年7月15日（水）12:50～13:00
主なキーワードAIリスク、ハルシネーション、制御の喪失、ディープフェイク、認知攻撃、AIガバナンス

「視点・論点」は、各分野の有識者がニュースや現代社会の課題を独自の視点から語る短時間のオピニオン番組です。今回のテーマは、AIを「使うか、使わないか」という二択ではなく、国や企業、利用者がリスクを理解したうえで、どう使いこなすかにあります。

番組で扱うAIリスクは3つ｜何が問題なのか

番組予告では、AIのリスクとして「ハルシネーション」「制御の喪失」「ディープフェイクによる認知攻撃」が挙げられています。3つは性質が異なりますが、共通するのはAIの出力や行動を、そのまま信用してよいとは限らないという点です。

  • ハルシネーション：AIが事実と異なる情報を、もっともらしく生成する
  • 制御の喪失：自律性が高いAIが、人間の想定や権限管理を越えて動くリスク
  • 認知攻撃：偽情報やディープフェイクを使い、人の認識・判断・世論形成に影響を与える

経済産業省のAI事業者ガイドラインでも、ハルシネーション、偽・誤情報の流通、機密情報の流出、過度な依存、民主主義への悪影響など、多様なリスクが整理されています。AIリスクは「AIが間違える」だけではなく、社会や組織の仕組みと結び付いたときに被害が大きくなる点が重要です。

ハルシネーションとは？AIが「自信満々に間違える」問題

ハルシネーション（hallucination）とは、生成AIが実在しない事実、出典、人物、数字などを、自然で説得力のある文章として出力してしまう現象です。文章が流ちょうなほど、利用者が誤りに気づきにくい点が厄介です。

特に注意したいのは、医療、法律、金融、災害、ニュース、企業の重要判断など、誤りの影響が大きい分野です。AIの回答は「検索結果そのもの」ではなく、モデルが生成した回答であるため、一次情報や公式資料との照合が欠かせません。

最新AIの性能や使い分けに関心がある方は、サイト内のGPT-5.6で何が変わった？ChatGPT・Codex・APIの新機能や、Gemini低価格版3種と3.5 Proの提供時期もあわせて確認すると、モデルの進化と「正確性は別問題」であることを整理しやすくなります。

「制御の喪失」とは？AIエージェント時代に重要になる論点

番組予告にある「制御の喪失」が具体的にどのケースを指すかは、予告文だけでは断定できません。ただし、現在のAI安全の議論では、AIが文章を返すだけでなく、外部サービスやツールを使って自律的に行動するAIエージェントが広がるにつれ、制御の問題がより実務的になっています。

Japan AISI（AIセーフティ・インスティテュート）は2026年7月7日、「AIセーフティに関する評価観点ガイド」第1.20版を公表しました。改訂ではAIエージェント特有の観点として「観測と制御」を追加し、「自律的な挙動」「外部環境との相互作用」を評価項目に加えています。

たとえば業務AIにメール送信、ファイル操作、決済、社内システム更新などの権限を持たせる場合、便利さと同時に「どこまで任せるか」「誤作動したとき止められるか」「誰が最終承認するか」を設計する必要があります。AIエージェントを含む仕事向けAIの広がりは、ChatGPT Workとは何ができる？通常版・Codexとの違いでも整理しています。

ディープフェイクによる「認知攻撃」とは？

ディープフェイクは、生成AIなどを使って、本物と見分けにくい人物の映像・画像・音声を作る技術です。技術自体には映像制作や翻訳など正当な用途もありますが、詐欺、なりすまし、偽ニュース、名誉毀損などに悪用されると深刻な問題になります。

番組がキーワードとして示す「認知攻撃」は、単に偽物を作ることよりも一段広い概念です。大量の偽情報や操作された映像を流し、人々が「何が本物か分からない」状態を作ったり、特定の判断や感情へ誘導したりすることで、情報空間そのものの信頼を揺さぶります。

個人ができる対策は、映像の細部だけで真偽を断定するより、投稿元、元映像、公式発表、複数の報道機関など別経路で確認することです。AI画像や写真の扱いが気になる方は、Instagramの画像が他人のAI素材に使われる？Metaの新機能と拒否設定も関連テーマとして参考になります。

2026年の最新動向｜日本はAI活用とリスク対応をどう両立している？

日本では、AIの利用を止めるのではなく、開発・活用を進めながら安全性や透明性を高める方向で制度整備が進んでいます。2025年9月にはAI法が全面施行され、AIの研究開発・活用の推進と、リスクへの対応を両立させる枠組みがスタートしました。

さらに経済産業省は2026年3月31日に「AI事業者ガイドライン（第1.2版）」を公表。事業者がAIリスクを把握し、開発・提供・利用の各場面で対応するための考え方が更新されています。

そして2026年7月7日にはJapan AISIが安全評価ガイドを更新し、AIエージェントの「観測と制御」を新たに明示しました。番組の放送時期は、まさに生成AIから自律型AIへ論点が広がっているタイミングと重なっています。

AIリスクにどう向き合う？個人・企業で共通する5つの基本

  1. 重要情報は一次情報で確認する
    AIが示したURLや数字をそのまま信用せず、公式サイトや原資料を開いて確認します。
  2. AIに渡す権限を必要最小限にする
    メール送信、削除、決済、公開など、取り返しにくい操作は人間の承認を挟む設計が安全です。
  3. 入力する情報を選ぶ
    個人情報、機密情報、未公開資料を外部AIへ安易に入力しない運用ルールが必要です。
  4. ログを残し、止められる仕組みを作る
    AIエージェントでは「何をしたか」を追跡できることと、異常時に停止できることが重要です。
  5. 「自分はだまされない」と思い込まない
    ディープフェイクは精巧化しています。内容だけでなく発信元と文脈を複数経路で確認します。

家庭や学校では、AIを禁止するだけでなく「答えを照合する」「出典を確かめる」「最後は自分で判断する」習慣を育てることも重要です。関連して、小中学校の情報教育は何が変わる？AI時代の学びも参考になります。

羽深宏樹とは？AIガバナンスを専門とする京都大学特任教授

羽深宏樹さんは、京都大学大学院法学研究科特任教授、スマートガバナンス株式会社代表取締役CEO、弁護士（日本・ニューヨーク州）として活動するAIガバナンスの専門家です。

東京大学法学部・法科大学院、スタンフォード大学ロースクールを経て、WTO、金融庁、法律事務所などで勤務。経済産業省ではガバナンス戦略国際調整官を務め、AIガバナンス政策やアジャイル・ガバナンスに関する政策形成にも関わりました。

2026年7月には京都大学の公開シンポジウム「Governing AI in an Agentic World」でイントロダクションを担当しており、AIエージェントの安全性、主権、人間とAIの関係といった最前線の議論にも携わっています。

放送で注目したいポイント｜「危険だから止める」だけではない

今回の番組で特に注目したいのは、AIリスクを列挙して終わるのではなく、国の競争力を高めるためにAIを活用しながら、どのようにリスクを許容可能な範囲へ抑えるかというバランスです。

AIは仕事の効率化、研究、教育、医療、行政など多くの分野で価値を生み出します。一方、性能が上がるほど、誤情報や悪用だけでなく「AIにどこまで任せるのか」という統治の問題が大きくなります。番組を見る際は、次の3点を意識すると内容を整理しやすいでしょう。

  • AIの技術的な弱点と、人間側の運用ミスを分けて考えているか
  • リスクをゼロにするのではなく、どの水準まで管理する考え方なのか
  • 政府・企業・開発者・利用者のうち、誰がどこまで責任を負うのか

よくある質問

視点・論点「AIのリスク どう向き合うか」はいつ放送？

2026年8月11日（火）12:50～13:00、NHK Eテレで放送されます。「選」と付いた回で、同テーマは2026年7月15日に放送されています。

出演する羽深宏樹さんはどんな人？

京都大学大学院法学研究科の特任教授で、AIガバナンスやデジタル政策を専門とする研究者・実務家です。スマートガバナンス株式会社代表取締役CEO、弁護士としても活動しています。

AIのハルシネーションとは何ですか？

生成AIが、実際には存在しない事実や出典などを、もっともらしい回答として生成してしまう現象です。重要な判断に使う場合は公式資料や一次情報での確認が必要です。

AIの「制御の喪失」とは何ですか？

番組がどの事例を指すかは予告だけでは断定できません。一般的なAI安全の文脈では、自律的に行動するAIが想定外の操作を行うことや、人間が監視・停止・権限制限できない状態などが重要な論点です。

ディープフェイクはどう見分ければいい？

映像の違和感だけで判定するのは難しくなっています。発信元、元動画、本人や組織の公式発表、信頼できる報道など、別の情報源で照合することが基本です。

まとめ｜AIの性能より「どう管理して使うか」が問われる

「視点・論点 選 AIのリスク どう向き合うか」は、AIが国や企業の競争力を左右する一方で、ハルシネーション、制御の喪失、ディープフェイクによる認知攻撃といったリスクが拡大する時代に、AIガバナンスをどう設計するかを考える回です。

  • AIの回答は一次情報と照合する
  • AIエージェントには必要最小限の権限だけを与える
  • 重要操作は人間の承認を残す
  • ディープフェイクは発信元・元情報を複数経路で確認する
  • AIを使わないことではなく、安全に使う仕組みを作ることが重要

AIが高度になるほど、「AIが何をできるか」だけでなく、「人間がどこまで任せ、どこで確認し、どう止めるか」が重要になります。10分の番組ですが、生成AIを日常や仕事で使う人ほど、自分の使い方を見直すきっかけになるテーマです。

参照した公式・関連情報

このテーマの関連記事はこちら