| 目次 |
|---|
ハルシネーションとは何か
生成AIにおけるハルシネーションとは、存在しない事実や誤った情報をもっともらしい形で生成する現象を指す。これは学習データに基づいた確率的予測から生じるもので、大規模言語モデルに共通して見られる特性である。従来はリスクとされてきたが、gpt-5ではハルシネーションを抑制する設計が進み、正確性は従来より向上している。
創造性との関係
ハルシネーションは欠点として扱われがちだが、必ずしも否定的な存在ではない。むしろ創造性と密接に関係している。事実性よりも多様性や意外性を優先することで、新しい広告コピーや製品ネーミング、事業アイデアを生み出す力になる。人間社会においても偶然や誤りが大発明につながった例は多い。
ポストイットは、強力な接着剤を開発しようとして失敗し、逆に粘着力が弱く簡単にはがせる接着剤が偶然生まれたことが発端である。廃棄されるはずだった失敗作が、後に世界的な文具となった。
ペニシリンは、アレクサンダー・フレミングが実験中に培養皿を放置し、そこに青カビが繁殖していたのを観察したことから発見された。通常なら単なる汚染として処理されるところを、彼は細菌がカビの周囲で死滅していることに気づき、抗生物質の発見につながった。
このように、誤りや想定外から生まれる価値は、人間に限らずAIにおいても無視できない。
人間もハルシネーションを起こす
人間は実際に存在しないものを想像し、物語や未来像を描く。これこそが創造力の源泉である。SFというジャンルはその代表例であり、技術革新に多大な影響を与えてきた。
イーロン・マスクはアイザック・アシモフやダグラス・アダムスの著作に影響を受け、宇宙開発に挑む動機を語っている。ジェフ・ベゾスは幼少期から『スター・トレック』に親しみ、アマゾンの音声AI「Alexa」には作品の登場人物名を採用した。ビル・ゲイツはアシモフ作品を推奨しており、マーク・ザッカーバーグもSFから未来の社会像を描くことが多い。
さらに、SFの影響を強く受けた技術として、スマートフォンやタブレットは『スタートレック』に登場する携帯端末の姿を下敷きにしていると言われる。音声アシスタントや自動ドアといった機能も、当初はSF作品で描かれた空想に過ぎなかったが、今では日常生活の一部となっている。
つまり、人間もまたハルシネーションを通じて未来を構想し、それを現実化してきた。AIにおけるハルシネーションも同じく、想像力の延長線上にある。
temperature と top_p による制御
AIの出力はtemperatureとtop_pで調整できる。temperatureは次の単語を選ぶ際のランダム性を制御し、低ければ安定性が高まり、高ければ多様性が増す。top_pは確率分布の上位からどこまでを候補とするかを決める仕組みで、値を狭めれば保守的な出力、広げれば自由度の高い出力になる。両者を組み合わせることで、AIの応答を正確性重視にも創造性重視にも切り替えられる。
ChatGPTにおける調整の可否
ChatGPTの標準UIではこれらのパラメーターを直接変更できない。実際に数値を操作できるのはAPIやPlaygroundを使う場合に限られる。ただし、プロンプトを工夫して「正確に答えて」「自由に発想して」などと指示することで、傾向をある程度模倣させることは可能である。
経営判断における活用と結論
AIの得意不得意を理解し、状況に応じて調整・制御することは極めて重要である。AIはパターン認識や情報整理、大量データの要約、アイデア生成に強みを発揮する一方、事実正確性や倫理的判断には弱点がある。
契約や分析など正確性が重視される場面では、temperatureを低めに設定し安定した出力を確保することが望ましい。逆に新規事業やマーケティングなど、創造性や多様性が求められる場面ではtemperatureやtop_pを高めに設定することで意外性ある発想を取り込める。
結論として、ハルシネーションは制御次第で致命的な欠点にも、競争優位の源泉にもなり得る。人間が空想やSFから未来の技術を形にしてきたように、AIもまた誤りや想像を経由して新しい価値を生み出す存在である。経営者や意思決定者はこの特性を理解し、リスクを抑えつつ創造性を引き出す戦略的な活用を図るべきである。
参照URL
GenAI StackExchange｜Is it possible to change the temperature parameter of ChatGPT chats? https://genai.stackexchange.com/questions/443/is-it-possible-to-change-the-temperature-parameter-of-chatgpt-chats
Hugging Face｜How to generate text with transformers https://huggingface.co/blog/how-to-generate
