［サンフランシスコ発／ロイター］民主党のカリフォルニア州上院議員スコット・ウィーナーが提出した「最先端のAIモデルのための安全・安心なイノベーション法」、通称「SB1047」と呼ばれるこの法案は、開発に1億ドル以上かかるような最先端のAIモデルや、一定以上の計算能力を必要とするモデルの多くに対し、安全テストを義務付ける。また、州内のAIソフトウェア開発業者は、AIが誤った動きをした時に緊急停止する方法、つまり「キル・スイッチ」を明示しなければならない。
開発者が法に従わない場合、たとえばAIが電力網のような政府システムに介入するような危機的状況が発生しているような状況下では、州司法長官がAI企業を訴える権限を持つ。
さらに、開発者は第三者監査人に安全手順を評価させることが義務付けられ、AIが不正に使われた場合に内部告発する人間を保護するための追加策を講じることも求められる。
- 「責任あるAI」と人間観・社会観の変貌
- ChatGPTの時代に必要な「民主的な価値」の相互矛盾と向き合う力
議員たちの見解は？
SB1047は賛成32反対1で州上院を通過した。８月初めには、州下院歳出委員会を通過しており、８月28日に州下院を賛成多数で通過した。OpenAIをはじめ、ソフトウェア開発で多くの有力なスタートアップ企業が拠点を置くサンフランシスコから選出されているウィーナー議員は、AIの進歩が手に負えない、管理しきれないものになる前に、一般市民を守る法律が必要だと訴えている。……
