生成AIがハルシネーションを起こす原因って何？知るとAIとの付き合い方が変わるかも！

質問に対して、生成AIが事実に基づいていない架空の情報をさも事実のように回答してしまう事があります。
その現象がまるでAIが幻覚を見て答えている様子にたとえ、「ハルシネーション（幻覚）」と呼ばれています。

詳細については、過去記事の 「生成AIのガチンコ勝負！話題のChatGPTとGoogle Bardはどっちが使える？」に分かりやすい実例付きで掲載していますので、こちらも併せてご覧くださいね。

生成AIによるハルシネーションが発生してしまうのは何故なのでしょうか。 坂地先生によると、ChatGPTなどのチャット系生成AIのハルシネーションにはいくつかの原因が推察されるとのことです。

知識を学習しているのではなく、もっともらしい文を出力するように学習しているのではないかと考えられるそうです。
ここでポイントなのは「もっともらしい文」なだけで、正しい文章ではないという点です。
確かに、いかにも本当のことのように語るハルシネーションの回答に騙されてしまうのはこの部分が大きく影響していますよね。

チャット系生成AIは生成モジュールを持っており、「temperature」というパラメータによって生成される結果に確率を持たせている可能性があるそうです。
例をあげると、要約や文章生成の指示をした際に、完全に同じ回答にならないよう、ある程度のランダム性を持たせているというわけです。
このゆらぎが出るように確率を決めている構造によって、回答内容にブレが生じてしまう可能性があるということですね。

日々回答に変化があるチャット系生成AIは裏で複数モデルが動いており、その平均値で結果を出しているのではないか？という一説もあるとのこと。なるほど、そういう可能性もあるのですね。

坂地先生のお話を聞くと、ハルシネーションって案外シンプルな原因で発生しているのかもなあと思いませんか？
原因を知らずにもっともらしいのに嘘だらけの回答を見るとなんだか気持ち悪いですが、こうして客観的に見てみると不気味さが減りますよね。

とはいえ、「やっぱり生成AIのハルシネーションは怖い」という方は、人間同士の関係に例えてみるとより身近に感じやすいと思います。
相手の話す内容が真実だと思って聞いていたけれど、後からその話が間違いである事に気付いた、なんて経験はありませんか？
「この件については知らない」とはっきり言われるのではなく、「噂で聞いた話だけど…」ともっともらしい話をされてしまうと、ついつい信じてしまう傾向がありますよね。

それがチャット系生成AIでも同じ現象が起こっていると考えると、人間同士も生成AIも「間違っている可能性もあるな」という前提で受け止めることで、良い付き合いができるのではないでしょうか。
ハルシネーションが危険だから生成AIは改善されるまで使わない！なんて言っていては、せっかくの便利なツールをいつまでも使えない状態が続きそうです。 むしろ、人付き合いと同じく、あえてその特性を知ったうえで前向きに活用していく事の方が、うまい生成AIとの付き合い方なのではと思います。

生成AIとうまい付き合い方をしている例といえば、学生の英語論文作成の例もお話しいただきました。 英語論文執筆をする際には、複数のツールをフル活用して効率的に翻訳や校正を行い、従来に比べすごいスピードで論文を仕上げているそうです。

その手法やツールについても、セミナー内で詳しく紹介していますよ。
これがかなり目から鱗の使い方で、必見の内容となっています。ぜひアーカイブ動画でご覧くださいね。

今回開催したセミナーでは、後の生成AIに繋がる坂地先生が長年研究されてきた言語のパターンとその因果関係や、LLMの進化過程からChatGPTの誕生まで、大変分かりやすく解説頂きました。

金融系生成AIについても紹介いただいているので、金融業界の方は必見です！ 簡単登録で動画を視聴できますので、みなさんお気軽に視聴してくださいね。

簡単！登録後すぐにメールで視聴用URLが届きます アーカイブ動画の
視聴登録に申し込む

＜セミナー内容＞
・生成AIにつながるこれまでの研究紹介
　　 -テキストからの因果関係抽出
　　 -金融・経済特化言語モデルの構築
・生成AIについて– 今後の見通しと注意点
・今後考えられる金融機関向けサービス

また、アイフィスとのディスカッションを通じて研究者視点での「今後考えられる金融サービス」についても、今後の可能性も含めて講演頂きました。
有益な情報が盛りだくさんなので、ぜひともアーカイブでの限定公開中の動画をご覧くださいね。

簡単！登録後すぐにメールで視聴用URLが届きます アーカイブ動画の
視聴登録に申し込む