AIを使う側の責任を痛感した一日

2026-02-12 22:58 投稿者：浦周平経営者投稿

本日は、非常に悔しい思いをした一日でした。そして同時に、今後必ず気を付けなければならない学びを得た一日でもあります。本日、Respointとしては2回目となる懇親会を開催しました。メンバー同士がより自然に打ち解けられるように、そしてITの会社らしさも出したいと考え、全員協力型のゲームをローカルで開発しました。内容はシンプルなものです。乗り物、都道府県、国名、スポーツといったお題から単語を7つ用意し、それぞれの単語を構成するアルファベットをランダムに並び替えて表示します。参加者は、バラバラにされた文字を見ながら、元の単語をすべて当てていくというゲームです。しかし、このゲームには成り立たなくなるほどの重大なミスがありました。それは、アルファベットが足りないというミスです。ゲームとして、あってはならないものでした。なぜこのようなことが起きたのか。原因は、アルファベットの並び替えをGPTに依頼し、生成された結果を十分に精査しないまま使用してしまったことでした。その結果、必要なアルファベットが欠けた状態で出題してしまったのです。とはいえ、仮にAI側にミスがあったとしても、実際にそのデータを使うと判断したのは自分自身です。プレイヤーの立場で、「文字を一つずつ消しながら、本当にすべての単語が作れるか」というテストプレイを行っていれば、事前に確実に気付けたミスでした。この出来事を通じて、私には大きく二つの学びがありました。 ① ゲームは、必ずプレイヤー目線で試すことシステムや仕組みの実装ばかりに意識が向き、「文字が足りない」という非常にアナログなミスが起こり得ることを、まったく想定できていませんでした。しかし、プレイヤーにとってシステムの内部構造は一切関係ありません。実際に遊んだときに成立していなければ、それはただの不完全なゲームです。自分自身がプレイヤーとして実際に遊び、本当に成り立っているかを事前に確認することの重要性を、改めて痛感しました。 ② AIの出力結果は、必ず精査すること AIは非常に優秀で、これまでも何度も助けられてきました。複雑な作業でも一瞬でこなしてくれる存在です。だからこそ、「アルファベットの並び替えのような簡単な作業で失敗するはずがない」と、無意識に思い込んでしまっていました。しかし、それは完全にこちらの油断でした。どんなに簡単な指示であっても、どんなに信頼しているAIであっても、最終的に確認し、責任を持つのは人間です。 AIの進化によって、私たちの仕事は確実に効率化されています。それでもなお、人の目による確認や、実際に使ってみるという工程はまだまだ欠かすことができません。懇親会という本来は楽しい場で、しかも自分が用意したゲームを通して、この事実を強く思い知らされることになりました。非常に悔しい出来事でしたが、次に必ず活かせる失敗だったと感じています。