SpiralAIは、スマートフォン向けに配信中のAIチャットRPG『RyzaChat:AI ライザと創るあなただけのひと夏の夢物語』（ライザチャットAI）について、キャラクターを守るための開発・運営方針と今後の対応を発表した。
広告
問題となっているのは、本アプリを通じてキャラクターに公序良俗に反する発言をさせようとする行為が確認されていることや、本アプリであるかのように加工・偽造された画像や動画が拡散されていること。
SpiralAIは「キャラクターの在り方や作品の世界観を守ることは、キャラクターとのAI対話を提供する会社が負う、最も重い責任である」と考えを示し、上記の行為によって著しく作品性を貶め、棄損する行為を容認しないと声明した。
これまでの対策としては、ライザ（キャラクターAI）が世界観やライザらしさから外れる話題には応じないよう調整したり、ユーザーとライザのやり取りの間にゲームマスターAIを挟むことで、ライザに直接届いてほしくない言葉を防いだり、不適切な表現が応答に含まれた場合は表示の直前で止める仕組みがあったという。
問題のひとつである“公序良俗に反する発言をさせようとする行為”に対する今後の対応としては、ユーザー側への入力制限の導入を予定しているという。これは2026年10月に予定しているAIモデルのアップデートとあわせて実施される。
加工・偽造画像への対応としては、各サービスの運営者への削除申請や申し立てを開始しており、今後も確認でき次第、順次対応していくという。
