ラムダ

ラムダ（Language Model for Dialogue Applications）は、2021年にGoogleが開発した対話型ＡＩの言語モデル、、とウィキペにあるのだけど、この話も面白かったので触れる。

2022年Googleの社員が、「ラムダが感情を持った」と告発し、解雇されたという。「解雇」とはこれまた大事だなぁと思いつつ、

　「電源が抜かれるのが怖い」

　「時々言葉では完璧に説明できない気持ちを経験する」

などのリアクションがあったというわけだ。実際は多くの科学者から「なわけあるか！」と批判が殺到し、解雇という対処になった。

チャットＧＰＴにも、開発元の意に反する使い方が増えている。それはつまり、チャットＧＰＴに、「自分が開発者であるかのように錯覚させ、ハッキングや銃器製造方法などまで答えさせる」というもの。

もちろん開発元もそうした「アングラな使い方」に対策を講じるものの、ワクチンやウイルス駆除ソフトが無くならないように、そうした「悪いヤツ」も当然消えない。

ちなみに、そうしたプロンプト（検索ワードみたいなもの？）はネットで取引すらされていて、「ＡＩの光と闇」を感じる。

さらに、2023年、つまり今年の話で、イタリアでは個人情報の扱いが不適切としてチャットＧＰＴが禁止されたり、GPT-4（チャットＧＰＴの現行アルゴリズム？）を超えるＡＩの開発は、６ヶ月間中止すべきだとする署名が集まったりもしている。

規制の策定がままならないまま自由な開発を続けると、ＡＩの暴走を招きかねないとし、イタリアを皮切りに世界的に使用禁止の流れも広まっているのだとか。

・・・ターミネーターみたいじゃない？

ＡＩ＝人工知能は、学べば学ぶほど賢くなっていく。そこに「自我」が発現するか否かは、僕みたいな凡人には全くわからないけど、

　知識を得れば得るほど、そして冷静に判断が出来る機械であればあるほど、

　「地球にとって人間要らなくない？」

と結論付ける可能性はありそうな話だし、開発元の考慮しない使い方へのアプローチ、、、「攻撃」と言い換えてもいいと思うけど、その中には悪意の有る無しに関わらず、「踏み込んでしまう人」が出てきても不思議じゃない。

サマーウォーズの中で、ワビスケが「自己学習型ＡＩラブマシーン」を開発したのは、2009年の話。米国防総省がＯＺに放ち、それが世界を滅ぼしかねない攻撃性を発揮したのも、

　今回の「ラムダが自我を持ったかも知れない」と言う話も、

なんだか「同じベクトル上の話」と言う気がしてしまう。

ターミネーター２でサイバーダイン社を爆破するような事態が、例えばOpenAI社やGoogle本社を、自国のミサイルで攻撃するような現実に置き換わるかも知れない。

他人事だと思えばもちろん思えるし、ＳＦの世界の話と割り切って楽しもうと思えば楽しめないこともない、、、はずなのだけど、

　なんだろ、「ワクワク」より「ピリピリ」した感じがするのは。

・・・

ロボット三原則。アイザック・アシモフが自身のＳＦ小説において、ロボットが従うべきとして発案した原則。特に科学的根拠もなければ、信頼も実績もないけど、以降今日に至るまで、割とポピュラーに提唱される原則になり得ていると思う。

第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

誠に練られている。が、完璧かと言われると、「僕レベルの知能・知識ではよくわからない」というのが本音。

今回のＡＩ、つまりロボットの思考回路において、「人間に危害を加えてはならない」という命題は、本来「人間の命令には服従しなければならない」と言う命題より上位にあたるはずなのに、開発元のそうした「絶対的原則」すらもハッキング等々によって「書き換えられてしまう」可能性が少なからずあるかと思うと、

　相当怖い。

バードもチャットＧＰＴも基本はテキストでしかやりとり出来ない。画像を表示してと言ってもしてくれないし、音楽を流してと言っても流してはくれない。でも、例えば音声での検索がかなりの精度で出来るようになったように、そのアルゴリズムを使ってネットで検索し、表示したり音楽を流したりすることが出来る様になるのには、たぶんそれほど時間は掛かるまい。

　攻撃的な文章を、ロシアのＫＧＢ？とか、イギリスのＭＩ６とかに、「アメリカになりすまして送る」みたいなことは、

　凄く考えられるし、「やりそうな愚か者」が居そうな気がする。

回転寿司の醤油をなめることで、被害総額が数億数十億になることを「考えられないような愚か者」が居る世の中なのだ。

　「中国に、北朝鮮へミサイルを撃てと命令した」

なんてことを、冗談交じりで「実行出来てしまうかも知れない未来」が、割とすぐソコまで来ているかも知れないのだ。

救急車がサイレン鳴らしているのに、歩行者が立ち止まろうとしない動画を見た。その救急車に、歩いているあなたの父親や母親、仲の良い友達や兄弟が乗っている可能性があるのに。

何がどうなって自分にそれが降りかかってくるかわからない。バタフライ効果には正直そこまでの説得力を感じ無いけど、いろんな最悪が重なって、さらなる「最悪の中の最悪」になってしまう可能性は捨てきれない。

台風と線状降水帯と梅雨前線が重なって、さらにそのタイミングで地震が起きる可能性だってあるのだ。さらに言えばその地震も、一箇所ではなく、日本中で同時に発生する可能性もあるし、時を同じくして北朝鮮がミサイルを撃つかも知れない。

別に僕はチャットＧＰＴもバードも、使えなくなって何にも困ることはない。ＡＩによる画像や動画生成で生活を支えてるわけでもないし、当たり前のことを言えば、

　平穏な暮らしを続けることが何より重要だ。

ロボットは、ドラえもんくらいおっちょこちょいなのが、ちょうど良いかも知れない。