AIのことを語りたい。

言語生成AIと人の共生は、言語生成AIと共に学ぶこと。言語生成AIの主に人文系の学習用途を模索するblogです。

ChatGPTなどの言語生成AIを、情報源には勧めない理由

Threads(スレッズ)始まりましたね。アカウント取得されましたか? マストドンやMisskeyなどを使われている方もいますね。Twitter、今後どうなるのでしょう。

https://www.tumblr.com/karasutoragara/722001237228290048/%E3%81%8A%E9%A1%8C-%E8%A8%98%E6%86%B6%E3%82%92%E6%8C%81%E3%81%9F%E3%81%AA%E3%81%84%E3%81%8B%E3%82%89%E4%B8%80%E8%B2%AB%E6%80%A7%E3%82%92%E4%BF%9D%E3%81%A6%E3%81%AA%E3%81%84%E4%BE%8B-chatgpt-%E8%8F%8A%E5%9C%B0%E5%BA%B7%E4%BA%BA%E6%B0%8F%E3%81%AE%E6%95%AC%E8%AA%9E%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6%E3%81%AE%E3%81%94%E7%B4%B9%E4%BB%8B

他人がカレーにウスターソースをかけて食べようと、お素麺にトマトとチーズを乗せようと、その方が美味しく召し上がり、栄養になるならいいと思います。

ビックリマンチョコで起きたように、シールを集めて、お菓子を捨てる場合は、行き過ぎかなと気にはなります。

言語生成AI、例えばChatGPTを情報収集に用いることは、後者の例だと思うのです。

 

簡単な話、ChatGPTは翻訳上手ですけど、だからといって、英和辞典や英英辞典の代わりに使うわけではないですよね。

 

そもそも、言語生成AIの回答はランダム生成です。似た回答はしますけど、同じではない。
Google検索なら、基本同じ検索結果になるけど、言語生成AIは表現やニュアンスが変わる可能性が有ります。(ぜひ、お試しください)

また、記憶を持たないから、「昨日はありがとう」というやり取りは行えません。Tumblrを貼りましたが、過去のやりとりを覚えていないので、一貫性を保ちにくいです。

 

言語生成AIの搭載している言語モデルは、主にネットの情報を元に機械学習して無数のパラメーターを設定・構築しています。

言語モデルがメインで、獲得した知識は副産物と見ることが出来ます。また、ネットの情報源ということは、良くてWikipediaなどであり、図書館のようにGoogleで出てこない一次情報や、課金しないと読めない新聞記事やKindleなどは参照出来ません。

言語生成AIは間違えることがある以前に、情報源として扱うのは、まだ早いと思います。bingはとても頑張っていますが、出典として持ってくるページが、素晴らしい時と、自分でググるなら閲覧しないサイトが混ざるから、まだ検索エンジンの代替とは言えません。

なら、言語生成AIは何に用いると、効果的でしょうか? 例えば、Amazonなどの製品のオススメ機能は、AIを実装しても限界が有ります。

具体的に考えてみましょう。法律関係の書籍を中心に買われていた方が、ある日、たまごクラブを買ったとします。頼まれて代理購入したのかもしれないし、ご本人やご家族やお友達が必要としているのかもしれない。購買履歴からのプロファイリングは限界が有るから、AIを用いても、「似た購買履歴」の方から情報を出すことが限界だと思います。
(言い換えると、購買履歴から私の今後の購買行動を正確にプロファイリングされたなら、それは気持ちが悪いサービスだと、思う)

対して、Spotifyなどは、なぜその曲かや、どんな状況で再生しているかは、購買履歴と同じで分からないけれど、コンテンツの中身と他のコンテンツの関係性に絞ってオススメが出来る点で、パターン抽出の得意なAIとの組み合わせが良いと思います。サブスクはコンテンツが膨大にあるので。ここは、従来ならタワレコなどで、ジャンルの専門スタッフに質問しないと分からなかったことを、仕組みで解決出来る点が画期的。

ChatGPTは要約力が素晴らしいですが、例えばプラグインを使って『虞美人草』を指定して要約させたのに、「これは漱石の『こころ』です」と言い出すことがあり、人ならやらないミスをする場合があります。画像生成AIだと、「黒目が無い」「指が被写体ブレのようになる」など人なら気がつくミスに気づけません。人とAIは知性の形・考え方のフレームワークが異なるから盲点も異なるわけですね。ここは、将来AIが今より高性能になっても、人の考え方のフレームワークと異なる場合は盲点が異なることも、変わらないと思う。

ChatGPTは日本語をかなり巧みに使うけど、敬語は難易度が高いようです。丁寧語は問題ないけど、例えば、尊敬語の比率を下げて謙譲語の比率を上げると「距離」を調整出来ますが、こうしたことはまだ無理です。敬語自体は、教育を受け、専門分野の国家資格を持っていて、社会人経験も豊富な40代も間違えるから完璧を求めてはいないけど、尊敬語と謙譲語を適切に理解しないと、せっかく感情分析機能を搭載してるのに、読み取れないことが出てきてしまう。

なら、人間のフレームワークの弱点は何かというと、視野狭窄や価値観や視点の偏りです。言語生成AIはガイドラインを根拠にしてるし、ChatGPTなら中立・一般的な回答をするようバランスを取っています。また、複数の視点の意見を出すことも一瞬で出来ます。だから、ユーザーの意見を分析させて、複数視点から多角的にフィードバックさせると言語生成AIは、人の苦手なことを言語生成AIの得意なことでアシストする組み合わせになります。

また、クラウドサービスでもあるので、スマホやパソコンの性能に左右されず、サーバー側で演算出来る点も強みです。

人が言語生成AIの苦手な点をカバーするのは、創造性や伝統から考えてOKか判断すること、などでしょうか。

まとめると、言語生成AIは情報源として用いるより、多角的視点で人の弱点である視野狭窄を起こさせないようにサポートすること、一言にすると「客観視のサポート」で用いる方が、メリットが大きいと思います。

私の瞳は黒い色

私の瞳は黒い色