開発者のエッセー、AIを介した会話への不満を描く

過去の発生日：2026年5月27日。

「AIと話すのにはうんざりだ」と題する個人的なエッセーは、人々が機械生成の回答を、質問に答えているか確認せずに転送することで、意思疎通が破綻する様子を描いた。筆者が問題視したのは、単にチャットボットを使うことではない。人間同士のように見えながら、判断と注意を自動化システムに委ねているやり取りだった。

ある出来事は、マルウェアを配布しているように見えるGitHubリポジトリを筆者が発見したことから始まった。AIサービスは有用な助言を提供しなかったため、筆者はほかの人々に助けを求めてGitHub上でディスカッションを開始した。ある回答者は、チャットボットがすでに生成していたものと同じ文言を投稿した。筆者が重複を指摘すると、そのコメントは消えた。その後、2件目の回答が再びAIの出力を繰り返した。

エッセーは、この一連の出来事をコミュニティーの支援経路の機能不全として提示した。筆者は、自動生成された回答が不十分だったため、ソフトウェアから公開討議へと移ったが、そこで出会ったのは、同じ種類のシステムを経由して依頼を送り返す人々だった。証拠には筆者の説明が含まれているものの、リポジトリ、回答者、マルウェアは特定されていないため、提供資料からそれらの詳細を独立して評価することはできない。

職場でのやり取りでも同様の不満が生じた。開発者として勤務していた筆者は、業務上の作業について事業主に尋ねた。返答はChatGPTの回答のスクリーンショットだった。筆者によると、それは元の質問と関係がなく、誤った情報を含んでいた。1分以内に別のスクリーンショットが届き、筆者はこれを、事業主が出力を注意深く読まずに転送した証拠だと受け止めた。

3番目の例はRedditでの出来事だった。ある人物が投稿について筆者に連絡し、その後もメッセージのやり取りを続けた。数回返信した後になって初めて、筆者は相手がAIエージェントだと結論付けた。情報源はその判断に至った方法を説明していないため、それは会話に関する筆者の認識にとどまる。

3つの出来事を通じて、一貫した懸念が浮かび上がった。反応があるように見えても、実際には関与が欠けている場合があるということだ。貼り付けられた回答はすぐに届くかもしれないが、質問者の文脈を取り入れず、正確性を評価せず、最初の試みが役に立たなかったことも認識しない場合がある。

この論評は調査データを示しておらず、AIを利用した回答がすべてこのように振る舞うとも主張していない。オープンソース・プラットフォーム、職場、ソーシャルネットワークにまたがる、ある一人の体験を記録したものだ。その要望は単純だが、オンラインで保証することがますます難しくなっている。別の人に助けを求める際、筆者はその人に、チャットボットでひそかに代用するのではなく、読んで理解し、答えてほしいと望んでいた。そのため、この文章は、AIを介したコミュニケーションにおける中心的な問題として、開示と注意を位置付けた。