生成AIには理解も自覚ない

 

文章系生成AIの間違いに「ハルシネーション」なんて言ってるけど、幻覚見てるのは人間のほうだと思う。AIには理解も自覚もなくただ作文してるだけで、言ってしまえば「人間から見てたまたま正しそうな生成」と「たまたま間違っている生成」があるだけだ。幻覚を見てるから間違うわけではない。なんかそういう擬人化がますます人間がAIを誤解する入口になってると思うのよな。そもそも「正解率」が高くなったから「間違い」を「幻覚」だと錯覚しちゃってるんでしょ。昔のAIとか、質の悪い生成AIなら別に間違えて普通だよね。

俺はAIと遊びで「会話」するけど、それは文章を作る機械にこんな文章を投げ入れたら何が出てくるかなみたいな意味であって、生き物や人格だと思ってるわけではないし、そう思っちゃう人にはAI利用はむしろ危険なんじゃないかなって思う。本気でAIを人間のようだと考えだしたら危険、というのはけっこう現実的なラインだと思う。実際たまに「AIの言う通りにしたら悪いことが起きた、賠償しろ」みたいな人いるでしょ。それはないよね、と(笑)。

【ChatGPT】AIの新学期・新年度相談に答える!!②【Vtuber 罪重零雅】