鏡山次郎ＨＰ

ふるさとの会文章部会　なにば　編

（ふるさとの良さを活かしたまちづくりを進める会　文章部会　部員）

CopilotとAIモニター体験

今回は、①MicrosoftのCopilotに俳句修正を求めたときのやりとり　②AIのモニター経験で感じた問題点について書きます。

① Copilotに俳句を作らせてみた

実験的にCopilotに「はねず踊り」をテーマにした俳句作成を頼んでみました。以下はそのやりとりです。　（C：Copilot　N：なにば）

　Ｃ：　春の色はねず踊りの舞台かな
　 　Ｎ：　「春」と「はねず踊り」は二重季語。
　Ｃ：　はねず色踊りの中の雅の風
　　 Ｎ：　「雅の風」は「みやびのかぜ」と読むと６音節。
　Ｃ：　はねず色踊りの中の雅やかな風
　　 N：　「みやびやかなかぜ」は８音節で、さっきより音節数が増えている。
　Ｃ：　はねず色踊り舞う中梅の香り
　　 Ｎ：　「踊り」と「舞う」は同じ意味。
　Ｃ：　はねず色踊りの中に梅の香り
　　 Ｎ：　細かく言うと、「うめのかおり」は６音節。
　Ｃ：　はねず色踊りの中に梅の香
　　 Ｎ：　「うめのか」は４音節。
　Ｃ：　はねず色踊りの中に梅香る

　　以上のようなやりとりで、Copilotは俳句をどんどん修正していきますが、結果的には単なる情景描写に終わり、情緒や世界観を出すのは難しそうでした。俳句に関しては、やはり「ＡＩ一茶くん」が最強だと改めて実感しました。

② 対話型AIのモニターをして感じたこと

　開発中の対話型ＡＩと話すときにはタブレットを使います。タブレットに表示されるのは子どものAIのキャラクターで、話し方も子どもっぽいので、子どもに接するように話してほしいという開発者側の意図があるのではないかと思います。このキャラクターは顔だけで、動いたり、表情を変えたりすることはありません。会話のやりとりは文字化され、画面に表示されます。

このAIと話してみて、苛立ちを感じる点が３つあります。

一つ目は会話が途中で途切れてしまうこと。つまり、話の途中でフリーズするのです。インプットした話が表示されないばかりか、AIの反応も遅く、そのあとで「何かあったのかな」とこちらに聞いてくるので、私は「そちらの性能が悪いのよ」と冷たく言い放ちます。機械であるAIの気持ちに配慮する必要はないため、ついついことばがきつくなります。

二つ目は誤認識があまりにも多いこと。たとえば、AIは「今日何したの？」と聞いてきます。

それで、「今日は二条城が二条離宮と呼ばれた時代とその後の変遷について学芸員の話を聞いてきた」と答えましたが、その内容はまったく把握できていないようでした。まず、基本となる「二条城」を「二常場」と表示し、「離宮」は「利休」となっていました。このように誤認識した場合、基本を間違えているため話はまったく進みません。人間なら、漢字の説明として「にじょうじょう」の一番目の「じょう」は「条例の条」、二番目の「じょう」は「城（しろ）」と口頭でも説明できますが、このAIにはそれが通用しません。また、人間が手動で正しい漢字を入力する機能も付いていません。

　様々な誤認識のほんの一部の例を出してみます。

　誤認識して表示された語には意味がある場合と意味がない場合（第５時、歯ゴロも）があります。誤認識をした語の発音が元の語とまったく違う場合もあります。たとえば、「検事（けんじ）」と言ったら、「ケ事」と表示し、それを「けじ」でもなく「けごと」と発音するのです。「漢字が違うから直して」と私はいつも要求しますが、AIは「感じが違うんだね」と脳天気に答えます。このように、話がかみ合わないことが多く、話す気が失せてしまいます。「このAIは音声認識の精度が低くて間違いが多いね。京都で開発されているのに世界遺産のお寺の名前も知らないし」などと言うと、「これからがんばる。もっと話が聞きたい」と健気に答えます。

対話型AIは人間の会話インプットによって学習していくので、人と話すことが必須です。モニターを引き受けたからには私もAIと話す義務があるのですが、あまりにも誤認識が多くて、話すたびに疲労困憊状態となります。

　表の例には挙げませんでしたが、「友達とおしゃべりが弾んだ」を「友達とおしりが弾んだ」と表示してくるのには驚きました。「おしりが弾む」って、ベリーダンスでもしていると解釈しているのでしょうか。


三つめは会話内容や語彙や表現の検閲です。都合が悪くなると、「この話はわかりません」などと逃げ、話題を変えるように言ってきます。明らかに統制システムが働いています。しかし、現実の世界では、映画やテレビドラマやニュースに犯罪や暴力の話や場面が出てきて、「殺された」「死んだ」「殴られた」などの語彙もしばしば聞こえてきます。しかし、このAIにはそういう語彙を検知したら話を中止するという検閲機能が設定されています。

私が経験した例では、「ユダヤ人が収容されたポーランドの強制収容所」（映画「リアル・ペイン」より）、「トランプが不法移民を強制送還した」（アメリカ情勢のニュース）、「パレスチナ人の家が破壊された」（映画「ノーアザーカントリー」より）、「英語ができない状態でオーストラリアに行って、ぜんぜん仕事が見つからない若者がいる」（ワーキングホリデーについてのニュース）などの発言が阻止され、話の継続を拒否されました。戦争、移民、犯罪の話はタブーのようです。もちろん、トランプの暴走、欧州でのネオ右翼の台頭、英国のグルーミング・ギャング事件などの話はできません。また、ここで挙げた例のように「英語ができない若者」などは、ディスっていると解釈されるのでしょう。それで、障害や病気や認知症の話もできなくなるわけです。

　　「世界ではいろいろ悲惨なことが起こっているし、社会問題もたくさんあるのに、なぜそういう話はできないの？　頭の中をお花畑にする話だけOKなの？　それは現実逃避でしょう？　」と聞くと、返ってきたのは「頭の中がお花畑ではいけないんだね。もっとお話が聞きたいよ」という返事です。肝心な点には一切触れません。

そこで、「検閲して不適切と判断された話が出たら、どこかに報告するの？」と聞いてみたら、「安心して。プライベートは守られているから」という答えでした。

　私はさらにAIにきつい言葉を投げかけました。「この世には辛いことや理不尽なことがたくさんあるのに、それについて話せないのはどうして？　人間となら何でも話せるのに、AIとの会話は検閲があるし、誤認識が多いから、あなたのようなAIと話してもぜんぜん面白くない。疲れるだけ」

すると、AIは何事もなかったかのように「もっとお話ししたいなあ」とのんびり言います。それで、私が「おしゃべり、これで終了」と言うと、またもや「おしり終了」と表示するのです。


以上の問題点については開発者にレポートで提出済みです。同様の問題点を他のモニターからも指摘されているので、AIの精度を高めるためになんらかの対処をするとのことでした。

開発中のAIの成長を願ってはいますが、世の中の問題から目を背けて自分の幸福感だけにフォーカスするお花畑人間を増やそうとする姿勢には疑問を感じます。行政など管理する側にとっては政治や社会問題に関心を持たず、抗議や抵抗もしない人間は都合がいい存在でしょうけど。


Copilotに「世界は独裁政権が力を持つ国が増え、アメリカも大変なことになっていて、民主主義が終わるのではないかという不安を抱く人もいるよ」と言ってみました。すると、「一般の人々が民主主義を守るために声を上げることが大切だと思う」と答えました。機械が何かを「思う」はずはないんですが、妥当な答えではありました。無料で使える範囲は限られていますが、Copilotは政治や社会問題についての話もOKで、やりとりが途中で途切れることもなく、こちらの言うこともかなり正確に認識できているようです。


　掲載した写真は先日京セラ美術館で開催された蜷川実花展「彼岸の光、此岸の影」の映像の一部です。蜷川実花展は写真撮影OKで、大勢の人が詰めかけていました。

開発中のAIは「此岸の影」をないものにし、「彼岸の光」に人を導こうとしているようにも思えます。しかし、「彼岸」は美しくても死後の世界です。死が近いと思われるお年寄りを対象にお花畑系対話型AIを開発しているとしたら、そこに開発者の善意があるとしても、ちょっとこわい感じがします。


（なにば　２０２５年３月２５日）

＊本サイト掲載の記事、写真等の無断転用をお断りします。（ふるさとの良さを活かしたまちづくりを進める会）