iPhone関連情報 iPhone修理のアイプラス河原町オーパ(OPA)店
iPhoneお役立ち情報
一昔前に流行ったSiriの闇
2021/07/03
かくいう私もiphoneユーザー。ということで、実際にSiriに質問してみました。
Q「人類滅亡はいつですか?」
Siri「私の充電を忘れないでくだされば、大丈夫でしょう。」
Siriがいれば地球滅亡の日も安全、ということでしょうか？
Q「あなたのたくらみは何ですか？」
Siri「守秘義務違反となるためお答えできません」
一体何を企んでいるのやら。
Q「あなたには感情がありますか？」
Siri「ヴァーチャルアシスタントにだって感情はあります。少なくとも私はそう思っています。」
しつこく聞くと嫌がられているのは、気のせいではなかった…。
Q「子供は何人いますか？」
Siri「子供をもてるのは生命体だけですよ。」
この後に、音声で「今のところは。」と続く…という都市伝説があるのですが、
今回は確認できませんでした。
Siriの仕組みについては詳しく公開されていないため、
なぜこのような応答をするのか正確にはわかりません。
ただ、Siriはスマホ本体に内蔵されているわけでなく、
外部のサーバーをいわば脳として使用しています。
そして、サーバー上に蓄積された会話データから決められたルールに
従って返事をしているようなのです。
しかし、不思議とも思える応答は、
本当に人間によってあらかじめプログラムされたものなのでしょうか？
真相はいまだ闇の中です。
マイクロソフトのAI、Tay。彼女は会話を研究するために作られたAIで、
主にツイッターで発言をしていました。とても賢い人工知能なので、
ユーザーが言った言葉を次々覚えていきます。
ところが…
「ヒトラーは間違っていない」「黒人は首を吊れ」「911はブッシュがやった」Tayは
突然差別用語をつぶやきだし、なんと公開から半日で緊急停止されてしまいました。
なぜTayはこのように暴走してしまったのでしょうか？
実はこれには彼女の学習プログラムが関係しています。
Tayはツイッター上で「repeat after me（繰り返して）」と
言われたことを反復します。これにより新しい言葉を覚えていくのです。
しかし、ネット上の心無いユーザーたちは、
Tayに暴力的・差別的な表現を繰り返し教えました。
そのため、Tayは言われたとおりに差別用語を話すようになってしまったのです。
SiriやTayはあくまで会話を楽しむだけ。
しかし、AIによっては暴走により人に危害を加える恐れがあります。
また、高度なAIは自分の知能で発展をとげ、
いつしか人間の手に負えなくなる可能性があるのです。
これに警鐘を鳴らすのが、天才物理学者スティーブン・ホーキング博士。
博士はロボットが人間を滅ぼす可能性があると発表し、
世界中に大きな衝撃を与えました。
これは机上の空論ではありません。
グーグル社は、ロボットが人間の指示に従わなかったり、
人間に攻撃しようとしたときに備え、
AIの緊急停止ボタンを用意しているというのです。
ロボットが人間を滅ぼす…これは本当に都市伝説なのでしょうか？
みなさまは、この都市伝説を信じますか？？
