[レベル: 上級]
Google の CEO である、Sundar Pichai（スンダー・ピチャイ）氏は、CBS とのインタビューで、AI が生成するフェイク動画に対して警鐘を鳴らしました。
また、AI の誤った利用を防ぐために、Bard の性能に意図的に制限をかけているとのことです。
フェイク動画を作成できる AI の潜在的な危険性
ピチャイ氏は、公人のディープフェイク動画を作るために AI を使用することの潜在的な危険性について懸念を表明しました。
実際には起こっていないことを見せる、非常にリアルな偽の動画を生成することがまもなく簡単になるとピチャイ氏は述べています。
この技術が社会規模で誤用されれば、大きな害を及ぼす可能性があると指摘しました。
Bard の性能を意図的に制限
AI 技術に社会が適応する間、誤用を防ぐために、Google の AI チャットである Bard の公人に対する機能を Google は意図的に制限しているそうです。
より高度な AI モデルを展開する前に、強力な安全対策を取り入れ、ユーザーからのフィードバックを得る時間が必要だとピチャイ氏はコメントしています。
Bard の動作を完全には理解できていない
Bard は社会にとって安全かと尋ねられたピチャイ氏は、そう信じているが、各段階で全関係者が責任を持って行動する必要があると答えました。
Bard の動作を Google は完全には理解していないことをピチャイ氏は認め、人間も自分の心の働きを完全には把握していないのと同じだと述べました。
たとえば、ベンガル語のトレーニングデータがないにもかかわらず、Bard がベンガル語を学んでいるそうです。
このように、AI システムを十分に理解せずにリリースすることは、人間の心を完全に理解していないのと同じだとピチャイ氏は主張しました。
要点まとめ
ピチャイ氏がインタビューで語った内容の要点は次のとおりです。
- 誤用されれば、現実的な AI 生成ビデオが害を及ぼす可能性を警告
- 試験提供中の Bard の機能を Google は意図的に制限
- AI の能力を拡大する前に、より多くの安全対策とフィードバックが必要
- AI システムを完全に理解していないことで意図しない結果が生じることへの懸念
AI で生成したフェイク動画や画像が問題を引き起こす事例は確かに発生しています。
たとえば、国防総省庁舎であるペンタゴン付近で爆発が起きた偽画像がソーシャルメディアで拡散し、米国株価が一時下落するという事件が発生したことがあります。
また、Bard がどのように動いているかを Google は完全には理解できていないとのことです（人間が他人の心を理解できないのと同じ？）。
意図しない結果を生成することがあります。
そのため、Bard の性能にあえて制限をかけているのだそうです。
制限については、先日の Search Central Live Tokyo でゲイリーも言及していました。
こうしたことから、AI 利用を慎重に進め、安全に利用できる環境を整えることが重要だとピチャイ氏は所見を述べたのです。