米政府、AI開発に「待った」
カリフォルニア州、AIに「緊急停止ボタン」検討
ニューサム知事が新たな命令、専門家チームが２カ月以内に提言へ
米カリフォルニア州のニューサム知事は、AI技術の急速な発展に対し、その暴走を防ぐための「緊急停止ボタン」の導入を検討するよう州に指示した。AIの安全な利用に向けた規制の動きが加速している。専門家チームは２カ月以内に提言をまとめる見通しだ。
ニューサム知事は金曜日に新たな行政命令を発令し、州がAIの監督において主導的な役割を担う姿勢を示した。特に、最先端のAIモデルに対して、必要に応じて稼働を停止できる機能の義務化が視野に入っている。この命令は、AI技術の潜在的なリスクに対する懸念が高まる中での重要な一歩となる。
この命令は、AI開発企業や研究者に対し、技術の安全性と社会への影響について、より一層の配慮を求めるものだ。知事は、AIがもたらす恩恵を享受しつつも、予期せぬ事態や悪用を防ぐための仕組み作りが急務であると強調している。
今回の動きは、各社のAI導入担当者や、AIを活用した新製品開発を進める部署にとって、今後の事業計画を見直すきっかけとなるかもしれない。AIの利用にあたっては、規制の動向を注視し、倫理的な側面も考慮した開発・運用が求められるだろう。