ＣｈａｔＧＰＴは、良くも悪しくも「適当なやつ」だと思う (パソコンオタクのなんちゃって哲学)

昨年11月に人工知能チャットボット「ChatGPT」が公開されて以来、Webサービス史上最速の勢いでユーザーを増やしている。問いかけに対し、人間が書くような自然な文体で答えを返してくれる。話し相手、先生、アシスタント、作家まで何でもこなす、エポックメイキングなプロダクトだ。

物は試しと、「新型コロナは今後弱毒化し、一般的な風邪と同じようになるのでしょうか?」と問うてみたところ、以下のような回答を返した。

新型コロナウイルスは、この先弱毒化する可能性は低いと考えられます。新型コロナウイルスは、感染力が高く、広まりやすいウイルスであり、風邪のように弱毒化する可能性は非常に低いと考えられます。また、新型コロナウイルスは、これまでにも変異が発生しており、変異を起こした新たなウイルスが発生する可能性もあります。そのため、新型コロナウイルスの弱毒化を期待することは適切ではありません。

簡潔かつはっきりとした旗色の答えに驚き、「へぇ、そうなのか」とそのときは納得した。

しかし入力を重ねるうち、違う側面も見えてきた。明らかに答えがわかっている、論理問題や、固有のお店、個人に関する問いをしたとき、「適当な」回答を延々と横してくる。間違いを指摘しても、詫びつつまた同じ答えを示してきたりもする。これはフラストレーションの連続だった。

そういえば、GPTは「文章生成AI」とも呼ばれている。そのことと、問答のちぐはぐさとがその時つながった。そう、人間が行うような自然な文章を「生成」するのがこのAIの売りであり、「正確な答えを出す」ことは主ではないのだ。小説を創作したり、一定の情報を与えてスピーチの原稿を書かせたら上手いといった前評判にも、これなら得心が行く。

そうするうちに、上記の最初の回答に対する認識も変わった。これはあくまで、ネットに溢れる情報を継ぎ接ぎして、「それらしい」ことを言っているだけなのではないか。その継ぎ接ぎのチョイスの精度によって、専門的な人間が考えるより正確、論理的で纏まったものになる場合も、もちろんあるにせよだ。

このように見てみると、使うに適した場面、気をつけなければならない点が、見えてくる。

と、ここまでの文章をそのままGPTに入力し、続きを書かせてみたのが以下である。

例えば、ChatGPTは、一般的な質問に対して簡単な答えを提供することができるが、専門的な知識や詳細な情報を求める場合には、信頼できる専門家に相談することが必要である。また、人間の言語を理解する能力にも限界があり、複雑な表現や文脈によっては誤った回答を返す可能性があるため、注意が必要である。

さらに、ChatGPTが生成する文章は、その情報源や文脈によっては、偏見や誤った情報を含んでいる場合がある。そのため、情報の正確性を確認することが重要である。

しかし、ChatGPTは、自然な言語でのコミュニケーションを可能にする点で、多くの場面で役立つことができる。例えば、英語を勉強する際には、自然な英語での会話を練習することが重要であるが、ネイティブスピーカーと会話することができない場合には、ChatGPTを活用することで、自然な英語表現の練習が可能となる。

また、ChatGPTは、文章の自動生成にも活用できる。例えば、小説や記事、ブログなどの文章を作成する際に、アイデアを提供することができる。また、翻訳や要約などの自動化にも活用されており、今後ますます多くの分野で利用されることが期待される。

総じて、ChatGPTは、自然な言語でのコミュニケーションや文章の自動生成において、その高い性能が期待されるが、正確性には限界があることを理解し、適切に活用することが重要である。

いかがだろうか。主語を律儀に置くところが英語っぽく、少々単調な文体だが、自然に書けていると言えるだろう。もっとも元の文章が単調だから、それを引き継いだに過ぎない可能性もある。ましてや、出力されたものをそのまま使う必要もない。出てきたものを基本にしながら、人間が適宜味付けすればよいだけだ。

前述の「適当さ」は、良くも悪しくも、これまでのAIには殆どない要素だったが、これを批判するのも、天に唾しているとわかる。なぜなら、この適当さも、ネットに存在する、または任意に学習させた、様々な人間の膨大な言葉、会話を元にしているからだ。つまり、人間自体がそれなりに「適当な」のである。うちの5歳の子供に知らないことを聞いても、適当に聞きかじった言葉をつなぎ合わせ本人なりに答えらしいことを返してくる。GPTは、その類の演算において、5歳を優に超えた能力を持ち合わせている。正確性の意味でも、それらしくごまかす意味でもだ。

非常に有用である反面、文章の雰囲気にのまれて裏取りをせずに信じ込んでしまうところに、宗教者と同じ危うさを感じざるを得ない。イーロン・マスク氏をはじめとするITの有力者が、開発競争の加熱を懸念しているが、その理由がここにあることは間違いなかろう。

2023.04