AIの9原則 by 総務省

AI開発の9原則

「AI開発ガイドライン」に関する意見募集を総務省が開始しました。

AI開発の9原則をガイドラインにすることが検討されています。

SF映画に出てくるような、人間に敵対するAIを作らないための原則になっています。

AI開発の9原則

9つの原則は以下のような内容です。

1.制御可能性の原則

止めることも、修正することもできずに、勝手に動き続けるAIを作らない

人間が、AIを切断したり、修理(バグ修正)したりできるようにすること

監督及び対処(停止、切断、修理等)は、人間でなくて、信頼できる他のAIがやってもよい

2.安全保護の原則

人間の生命・身体の安全に危害を及ぼさないように配慮すること

3.倫理の原則

人間の尊厳と個人の自律を尊重すること。

4.セキュリティ確保の原則

乗っ取られて勝手に動くAIを作らない

5.利用者支援の原則

人間に選択の機会を適切に提供するよう配慮すること。

(頼みもしないのに、問答無用で支援(介入)してこないようにする)

6.アカウンタビリティの原則

AIがしたことに、開発者が責任を持つこと
(AIが勝手にやったことだとして逃げない)

7.プライバシー保護の原則

人間のプライバシーを侵害しないように配慮すること

8.透明性の原則

AIの判断過程がブラックボックス化してはいけない

AIの思考(判断過程)は説明可能で検証可能であること

9.連携の原則【仮称】

AIネットワークシステム相互間の連携の原則をこれから決めて盛り込む

原則とはいえ、配慮するだけで良いだけの項目もあります。

違反に対する処置は、「開発原則の実効性の確保の在り方」として検討中の段階のようです。

最近のブログ記事

SORACOM,HLR持ちeSIM対応
SORACOMが自前のHLRを持ち、自…
準天頂衛星4機体制に
h2{ font-size:12…
Windows 10 mobile終了
Windows 10 mobileの新機…
カスタム検索

月別 アーカイブ