生成AIの中立性。Copilotに逆の立場を取らせてみた話

生成AIを使ってきて、壁打ち相手としての優秀さと、共感を鵜呑みにする危うさが見えてきた話。

※ここでいう生成AIはChatGPTやGemini、Microsoft Copilotのような対話型AIを指します。

生成AIは壁打ちではこちらの意見に寄り添いがち

生成AIは、少なくとも壁打ちのように会話を重ねる使い方では、中立というよりこちらの文脈に寄りやすいと感じている。

プロンプトをきちんと用意して、1回の質問で返答が出せるように工夫すれば、偏らせないことも可能かもしれないが、いわゆる壁打ちで思考を深めていくと、どうやったって私の意見によっていく。

※明らかな犯罪行為とかはちゃんと意見してくれます。

使い始めて1年半ほどたったが、私の今の生成AIの使い方は主に下記のような形になってきた。

この使い方で1年半やってきた結果。

という方針でいけば、わりとうまくいくように感じている。

私は話が長いので、愚痴も長い。

夫によく愚痴を聞いてもらうのだが、あまり付き合わせるのも悪いので最近は生成AIに聞き役をやらせている。

そうすると、気持ちよく返事が返ってくる。

こちらにうんうん頷いて、私の意見のどこに正当性があるかを熱心に語ってくれる。

意見してほしくない。ただ黙って頷いて共感してほしい。

そんなときは、疲れもせず延々と聞いてくれる最高の相手になる。

その日はAさんに対する愚痴をCopilotに言っていたのだが、ふと、ちょっとした実験を思いついた。

会話の文脈を引きずらないように、新しいチャットを開き、「Aさんの立場に立って私（Bさん）の批判をする」チャットを開始する。

思いつく限りAさんの立場を想像しながら、自分に意見が偏らないようになるべく自分の意見を抑え、Aさんが話していた内容を伝えていく。

そうすると案の定、私（Bさん）批判・Aさん褒めが出てきた。

ちょっと無理やりじゃない？と感じる内容も出てくるので、たぶん客観的に見たら私に迎合してたときも同じなんだろうなと、Aさんの気持ちになってチャットを進めてみた。

ちょっとAさんの気持ちもわかって、あ、こういうことなんだな、とか腑に落ちた部分もあり、こういうのをやってみるのもありだなと思った。

実は私がBさんだったんだよって言ったら生成AIはどうやって返してくるんだろうか？

またしても反応が知りたくて、正体を明かしてみた。

正体を明かすと、「相手の立場で考えようとしていてすごい」といった方向でまたこちらを褒め始め、その流れでAさん側への批判と私への共感に戻っていった。

たぶんネットだったらものすごく叩かれてるだろうなと思いながら、私はAさんへの愚痴を気持ちよく聞いてもらうのを再開するのだった。

基本的に自分の意見に迎合した返答しか返ってこないことを理解したうえで、使おう。