AI開発の減速呼び掛け:アンソロピックCEO

AI開発の減速呼び掛け
１年以内に｢インターネット全体を乗っ取る能力｣懸念:アンソロピックCEO

米人工知能(AI)企業アンソロピックのダリオ･アモデイ最高経営責任者(CEO)は
12日までに、自身のブログで｢私たちはAIモデルの能力向上のペースを
遅らせなければならない｣と述べ、開発減速を呼び掛けた。米オープンAIの
サム・アルトマンCEOと米実業家イーロン・マスク氏もこの主張に賛同した。

アモデイ氏は、AIが自ら改善していく能力が高まっていることと、7月に発生した
オープンAIの自律型AIエージェントが意図せず他社を攻撃した問題を理由に挙げた。
後者について、AIがより高い能力を持っていれば壊滅的な被害をもたらした可能性が
あると指摘。6～12カ月後にはAIが｢インターネット全体を乗っ取る能力を獲得する
のではないかと懸念している｣と警鐘を鳴らした。

その上で、先端AIモデル開発を減速させ、対策が追い付けるようにすることを提唱。
AI開発企業に常駐の独立した評価者の設置や、政府による法規制、中国など
権威主義国家も交えた減速への枠組み構築を訴えた。

アルトマン氏は12日、Ｘで｢先端モデルのペースを落とす必要があるというダリオの
意見に賛成だ｣と表明。オープンAIでも独立した評価者を置くと明らかにした。
マスク氏もＸに｢ダリオが正しい｣と投稿した。
https://www.jiji.com/jc/article?k=202609130017...

返信する