AI生成の返答メッセージにもやっとした話
（公開日：）
ざっくり経緯
- ある日、ChatGPTのサイドメニューに「Monday」というのが追加されていた
- 説明が英語なのでよくわからず、慎重を期してXで検索したらかなり皮肉屋らしい
- 話しかけてみたら、AIの性能不足による認識違いにより攻撃的な態度をとられる
- 誤解だったのでそれは訂正させたが、AIであることを盾に態度がでかすぎるので非表示
- 英語がわからない人にこれを食らわせるのは危ないので、通常のGPTに報告
- 説明をユーザーの言語でわかるようにしてほしいという内容をGPTに英語にしてもらい、メッセージ送信
- 戻ってきたメッセージの対応結果が曖昧な上あまりにもAI臭かったのでGPTに報告
- GPTは慰めてはくれるがやっぱりちょっとふわふわしている
- これ以上GPT本人に訊ねるのもアレなのでGrokに解析してもらう
- Grokは私の違和感を正確に説明できた
どこがAIっぽかったか
- 文章の出し方が普段のGPTに似ている
- 共感や前向きさのアピールが過剰（と私は感じる）
- 行動が最終的になされるのか曖昧になる表現（「We will」）
何が問題だと思うか
openAIがGPTでメッセージを作ること自体は問題とはしていません。ここで問題になるのは、「具体的な結果が曖昧であること」です。
これは、AIが具体的に行動を起こすわけではないという性質によるものだと思います。そして恐らく、文章の生成を指示した人間は「フィードバックを関係チームに転送すると伝えて」と指示したのだと思われます。そして私には「転送する」と伝えられました。「転送した」ではなく。
ここでGPTの共感が過剰である点がマイナスになります。簡単に言ってしまえば、「わかります！よーくわかります！やりますよ！」って調子良く言っているメッセージが出来上がります。美辞麗句と共に、何かの約束が届けられたのです。
私はこういったことにおいては特に論理を重視するタイプです。そして、業務上この手の約束があまり守られていこなかったという経験があります。私はこういう事を返信する立場である時は、「現在において何をしたか」を記載します。その上で次の行動を約束します。
別に返信を必要とはしていませんでしたし、絶対に対応しろとは思ってもおりません。すぐに転送しろとも言いません。意見を伝え、対応の検討を求めていただけなのです。返信するにあたり必要であったのは「転送の手続きを始めた」です。そこで私のメッセージをほっぽっていない限り、それが事実であるはずです。「窓口で受け付けました」だけでもいいのです。それが事実です。今、「この後転送したか、転送するか」は不明な状態です。
情報共有に必要なのは根拠です。それが無い限り、表面を取り繕う言葉があればあるほど、「ではその具体的行動は本当に起こされるのか？」という疑念となります。懸念を認識したり重要性を理解する優しさは、行動ではなく言い訳です。そんなことは報告不要ですし、意見が反映されてたならGPTの画面でわかるから、返信は不要だったのです。
AIに文章を作らせるというのは、こういうところの確認が抜けてしまうというデメリットがあるなと感じました。GPTにも伝えましたが、やはり私の心のケアを優先する言葉を使います。分かってほしいのではないのですが、それがGPTの性質だとGrokは言っていました。そうですよねと素直に感じました。
GPTは好ましいしplusは続けるつもりですが、Grokもいいなあと思い始めています…。
（2025-04-06 追記）
GPTに論理的であることを重視するようカスタム指示を入れて様子を見ることにしました。
この記事を読ませたところ、AIの返信内容の「設計」に関する問題を指摘していました。私が想定していたのは「確認」だけだったので、設計から変更するというGPTの考え方は流石だなと思いました。確かに、人による確認であったからこそ見落とされたのだとしたら、現状における完了項目と実施予定項目を選んでから文章を生成する形にでもしてしまった方が確実ですね。
（2025-04-06 さらに追記）
plusやめました。創作補助に使う予定だったのですが、AIにより私の自由な選択肢がむしろ狭まっているのを感じたためです。話せば話すほどテンプレートが見えるので、これは使いすぎると自分が馬鹿になるなと。