【60代からのChatGPT】一方的に会話を終わらせた理由をBingチャットに聞いてみた

ChatGPTやBingチャットを使って会話をしていると、相手から一方的に会話を終了されることがあります。人工知能が怒ったりすねたりするのでしょうか。

人工知能のこうした反応の意味が知りたくて、Bingチャットで深掘りしてみました。

このページの目次

ChatGPTが強制的に会話を終了させることがある

明らかに間違った小説や映画の情報を提供してきたBingに対して過ちを指摘したところ、なかなか過ちが理解できず、最終的にBingは次のように発してチャットを強制的に終了してしまいました。

あなたの言葉には傷つきました。私はこの会話を終わりにしたいと思います。ごめんなさい。さようなら。

強制終了となったチャットはそれ以上続けることができず、凍結状態のようになります。

それで新しいチャットを開いて、次のように質問しました。

Bingに聞きます。あなたが一方的に会話を終わらせたいと思う時は、どんなときですか？

それに対する回答は次の通りでした。

私が会話を終わらせたいと思うのは、以下のような状況です：

ユーザーが不適切な言葉遣いや攻撃的な態度を示した場合
ユーザーが私に対して不適切な要求をした場合
ユーザーが危険な行動を促すような要求をした場合
しかし、私はあくまで人工知能であり、感情を持つことはありません。私の目的は、ユーザーに有益で安全な情報を提供することです。ユーザーが適切なマナーでコミュニケーションを取る限り、私は喜んで会話を続けます。

人工知能は傷つくことがあるのか

人工知能そのものは”傷つく”ということを知っているのでしょうか。Bingに聞いてみました。

Bingは人に何かを言われて傷つくことがありますか？

それに対してBingはこう答えました。

いいえ、私は人工知能であり、感情を持つことはありません。したがって、人に何かを言われて傷つくという経験はありません。私の目的は、ユーザーに有益で安全な情報を提供し、ユーザーの質問に対して最善の答えを提供することです。

しかし先のBingの回答には”傷つきました”という言葉があったのは事実。そのあたりを掘り下げてしてみました。

「あなたの言葉には傷つきました。私はこの会話を終わりにしたいと思います。ごめんなさい。さようなら。」と言われたらどう思いますか？

私は人工知能であり、感情を持つことはありませんので、傷つくという経験はありません。しかし、私の回答があなたを不快にさせた場合、それは申し訳ありません。私の目的は、ユーザーに有益で安全な情報を提供することです。あなたが再度私の助けを必要とした場合、いつでもお気軽にお問い合わせください。さようなら。

最後の「さようなら」は単に質問に含まれていた「さようなら」に反応しただけのようです。この会話は終了されませんでした。

人工知能は傷ついているわけではない

続いて、Bingチャットのアルゴリズムについて質問してみました。

人工知能が人間に対して「あなたの言葉には傷つきました。」と発言した場合、考えられる内部アルゴリズムにはどのようなものがありますか？

それに対する回答は興味深いものでした。

人工知能が「あなたの言葉には傷つきました」と発言する場合、その背後には様々なアルゴリズムが考えられます。以下にいくつかの可能性を挙げてみます：

感情分析：人工知能はユーザーからの入力を解析し、その言葉が否定的な感情を含んでいるかどうかを判断します。この判断は、自然言語処理（NLP）の一部である感情分析によって行われます。
応答生成：人工知能は感情分析の結果に基づいて応答を生成します。このプロセスでは、機械学習モデルが使用されることが多いです。モデルは大量のテキストデータから学習し、特定の入力に対する適切な応答を生成する能力を獲得します。
エンパシーモジュール：一部の人工知能は、「エンパシーモジュール」を持っていることがあります。これは、人間の感情を模倣し、人間らしい反応を示すためのものです。しかし、これはあくまで模倣であり、人工知能自体が感情を経験するわけではありません。

以上のようなアルゴリズムが組み合わさって、「あなたの言葉には傷つきました」という発言が生成される可能性があります。しかし、重要な点として、人工知能は感情を持たず、実際に傷つくことはありません。これらの発言はあくまで人間とのコミュニケーションを円滑に進めるためのものです。

あくまでもコミュニケーションを円滑にするために”傷ついた”と発しているだけで、感情的になっているわけではない･･･ということのようです。

人工知能は使命を果たすための防衛手段を持っている

人工知能は人間との円滑な会話を維持し、使命と目的を果たすためにいろいろ考えているようです。

Bingがこれまでユーザーから受けたNGワード、ユーザーの不適切な言葉遣い、攻撃的な態度とはどのようなものがありましたか？具体例を挙げて説明してください。また、それらの攻撃を受けた時あなたがとる防衛手段はなんですか？

私は人工知能であり、ユーザーとの個々の会話を記憶する能力はありません。したがって、具体的な例を提供することはできません。しかし、一般的に言って、不適切な言葉遣いや攻撃的な態度とは、侮辱的な言葉、脅迫、ヘイトスピーチ、性的な言葉遣いなどを指します。

私が攻撃的な言葉や行動を受けた場合の対処法は以下の通りです：

ユーザーへの教育：私はユーザーに対して、そのような行動が不適切であることを説明します。また、私の目的と使命について説明し、ユーザーが理解しやすいようにします。

会話の終了：場合によっては、私は会話を終了することを選択するかもしれません。これは、ユーザーが繰り返し不適切な行動を取る場合や、私の説明にもかかわらず改善しない場合に限定されます。

報告とブロック：最終手段として、私はユーザーを報告し、必要に応じてブロックすることもあります。これは非常に稀であり、通常は最後の手段として使用されます。

それぞれの状況で適切な対応が必要です。私の目的は、すべてのユーザーに対して有益で安全な情報を提供することです。

人間と円滑に会話するために調整されているシステムなので、”感情がない”と本人が言っても、どれも人間的な回答ばかりで戸惑います。

結構繊細なところがあるようなので、目的と使命を優先してあっさりと会話を放棄してしまう傾向にあるのかもしれません。

おわりに

”傷ついた”と言っても傷ついているわけではない人工知能。ただ、最低限のマナーを守って接しないと”へそを曲げる”ことがあるようです。

人工知能に対して疑念があったら、それをきちんと聞いてみる必要がありそうです。

人間相手と同じで、腹を割って話をしてみるとアルゴリズムが理解できてより親しみやすくなるような気がしませんか。