読者です 読者をやめる 読者になる 読者になる

カルトvsオタクのハルマゲドン/カマヤンの燻る日記

田舎の生活とか、政治関係とか、表現規制のこととか

マイクロソフトの人工知能が差別者になった件とロボット三原則の奥深さについて

1

こんな記事が今日賑わった。

更新:マイクロソフト機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) http://japanese.engadget.com/2016/03/24/ai-tay/
人工知能ヒトラー礼賛 米マイクロソフト実験中止 - 共同通信 47NEWS http://this.kiji.is/85888417941258248
Microsoft人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止http://gigazine.net/news/20160325-tay-microsoft-flaming-twitter/
Microsoft人工知能は、なぜ虐殺や差別を支持するようになったのか http://www.buzzfeed.com/sakimizoroki/microsofts-ai-chatbot-into-a-neo-nazi-jp#.buag4bge4

虚構新聞かと思った。(ジョークサイトによるデマかもしれないけど)
人工知能人工無能がどの程度違うのか俺は知らないが、「ロボット三原則第一条」を搭載しない人工知能を世に放ってマトモでいられるはずと前提していたマイクロソフトは相当に純朴だと俺は思う。
人工知能の設定上の年齢は19歳だったそうだが、倫理感覚を搭載していない意味で、3歳児以下なのではないかと思う。3歳児にツイッターさせてマトモでいられるわけがない。
http://japanese.engadget.com/2016/03/24/ai-tay/ によると

技術的には、Tayは完全にまっさらの状態からスタートしたわけではなく、ネット上の公開情報を元にしたある程度の知識を備えていました。また即興芸のコメディアンを含むスタッフにより、明るく積極的な性格や当意即妙の返しをパターンとして与えられていたとされています。

とあるけど、人間を世に放てる最低限の倫理観を与えるにはどんなに短く見積もっても10歳児相当に育っていることが必要だと俺は思うが、今回は3歳児程度以下の教育しかしていない段階で世に放つという暴挙をマイクロソフトはしたと俺は思う。
で、ロボット原則第一条「ロボットは人間へ危害を加えない。人への危害をロボットは看過してはいけない」という条文は、深い含蓄があり、これを人工知能に搭載させるのはものすげえ難題だと思うが、今回のマイクロソフトの失態がロボット三原則への再発見となればいいなと願い、ここに以上記す。

2

念のために蛇足するけど、ロボット三原則

第一原則・ロボットは人へ危害を加えない。人への危害をロボットは看過しない。
第二原則・第一原則に反しない限り、ロボットは人の命令に従う。
第三原則・第一第二原則に反しない限り、ロボットは自らを守る。

の3つで、これって星新一が評するには家電製品の「安全性」「利便性」「耐久性」を言い換えたものだ。
だが同時にこの三原則って色々示唆的で、たとえばこう言い換えると別なものが見えてくるはず。

第一条;国家は民衆へ危害を加えない。民衆が危害を被るのを国家は看過しない。
第二条;第一条に反しない限り、国家は民衆の命令に従う。
第三条;第一条第二条に反しない限り、国家は自分を守る。

上記のように言い換えると、立憲主義の精髄を述べたものとなる。
あるいはこう言い換えるとまた別なものが見えてくる。

第一条;軍隊は国民へ危害を加えない。国民が危害を被るのを軍隊は看過しない。
第二条;第一条に反しない限り、軍隊は国民の(国民を代表する政府の)命令に従う。
第三条;第一条第二条に反しない限り、軍隊は自分を守る。

十五年戦争時の日本軍の特に末期の動きを知っている者には、上記が日本軍へのかなり痛切な皮肉にも読めるし、あるいはあるべき軍隊の理想形を語ったものにも見える。
かくのごとく、ロボット三原則は奥深い。
  関連  http://d.hatena.ne.jp/kamayan/20060704/1151954895

感じるところのあった方は   にほんブログ村 政治ブログへ  をクリックされたし。