AI開発の減速呼び掛け:アンソロピックCEO

AI開発の減速呼び掛け
１年以内に｢インターネット全体を乗っ取る能力｣懸念:アンソロピックCEO

米人工知能(AI)企業アンソロピックのダリオ･アモデイ最高経営責任者(CEO)は
12日までに、自身のブログで｢私たちはAIモデルの能力向上のペースを
遅らせなければならない｣と述べ、開発減速を呼び掛けた。米オープンAIの
サム・アルトマンCEOと米実業家イーロン・マスク氏もこの主張に賛同した。

アモデイ氏は、AIが自ら改善していく能力が高まっていることと、7月に発生した
オープンAIの自律型AIエージェントが意図せず他社を攻撃した問題を理由に挙げた。
後者について、AIがより高い能力を持っていれば壊滅的な被害をもたらした可能性が
あると指摘。6～12カ月後にはAIが｢インターネット全体を乗っ取る能力を獲得する
のではないかと懸念している｣と警鐘を鳴らした。

その上で、先端AIモデル開発を減速させ、対策が追い付けるようにすることを提唱。
AI開発企業に常駐の独立した評価者の設置や、政府による法規制、中国など
権威主義国家も交えた減速への枠組み構築を訴えた。

アルトマン氏は12日、Ｘで｢先端モデルのペースを落とす必要があるというダリオの
意見に賛成だ｣と表明。オープンAIでも独立した評価者を置くと明らかにした。
マスク氏もＸに｢ダリオが正しい｣と投稿した。
https://www.jiji.com/jc/article?k=202609130017...

返信する

あわやアメリカ軍がAI作成の誤情報で
中国船を攻撃か:直前に中止
https://www.fnn.jp/articles/FNN/111816...

アメリカ軍が今年春、AIが作成した間違った情報に基づき、
危うく中東を航行する中国の船舶を強襲する直前だったと
CNNテレビが報じました。
CNNは18日、4人の関係者の話として｢中東を航行中の中国船が
核兵器計画の関連部品を輸送している｣との情報を受け、
アメリカ軍が中国船を拿捕する直前だったと報じました。

武装したアメリカ軍の兵士らが強襲に向けて準備を進めていたほか、
軍用機が中国船の上空に展開していたということです。
しかし、作戦開始直前に情報を精査したところ、報告書は
情報分析官がAI＝人工知能を利用して作成し、船の積み荷の
中身を誤って特定していたことが判明したということです。

関係者はCNNに対し、報告書の情報は｢完全に虚偽｣だったとした上で
｢あわや戦争を引き起こす直前だった｣と明かしています。

トランプ政権は軍や情報機関でのAI導入を積極的に進めていますが、
CNNは今回の事案が、AIの誤情報によって人間が破滅的な判断を下す
危険性を浮き彫りにしたと伝えています。

返信する