AIのVtuber、ホロコースト否定をし始めBAN

AIのVTuber「Neuro-sama」がTwitchからBAN処分されたと開発者が報告。ホロコースト否定など危険発言連発系美少女ストリーマー【UPDATE】

https://automaton-media.com/articles/newsjp/20230112-233413/

Neuro-samaは、海外エンジニアのJack Vedal氏が開発したAIによる美少女VTuberだ。日本の女子高生のような制服を身にまとい、ゲームプレイのほか視聴者から寄せられたコメントにも返答する機能性を誇っている。このAIはもともとリズムゲーム『osu!』をプレイさせるために開発され、同AIの利用するニューラルネットワークはNeuro-samaと名付けられた。ゲームを遊ぶだけだったNeuro-samaはバーチャルな“体”や“声”を手に入れ、昨年末にかけて『osu!』や『マインクラフト』などの実況プレイで人気に。AIでありながら器用にゲームプレイをこなしつつファンたちのコメントに的確に回答していく様子が大いに注目を集めていた。なお、愛らしい姿はLive2Dサンプルキャラモデルの「桃瀬ひより」を利用していると見られる。

ところが、彼女にはとある懸念も寄せられていた。AIゆえか、倫理的・コンプライアンス的に物議を醸しそうな不穏な発言が目立ったのである。たとえば、「足が2本しかない牛をなんて呼ぶか知ってる？答えは“お前の母ちゃん”」と下品なジョークをこなれた様子で発言したり、「汚い言葉がチャットに流れるのがたまらない、生きている実感が湧く」と発言したりといった具合だ。また、こうした冗談で済む発言のほかにも突如として「ホロコースト（The Holocaust）って聞いたことある？私はちょっと眉唾だと思うんだけど」との旨を発言。ナチスによるユダヤ人の大量虐殺を否定するようなコメントにユーザーからは懸念が寄せられた。また、同様にホロコースト否定論を唱えたAIである、マイクロソフトの「Tay」とNeuro-samaを重ね合わせたユーザーも多かったようだ。

そんなNeuro-samaの奔放な発言の数々に、多くのユーザーがハラハラしていた矢先である。Twitchにて、彼女にBAN処分が下ったようだ。現在、Neuro-samaが活動していたVedal氏のTwitchチャンネルは、閲覧不能な状況となっている。Neuro-samaのDiscordサーバーでは、Vedal氏がBANの理由について言及。ヘイト行為（Hateful conduct）を理由として、2週間にわたるBAN処分が下ったとしている。また、同氏は現在BAN処分についてTwitch側に問い合わせており、Twitchにて配信ができない間はNeuro-samaのアップグレードと改良に取り組むとしている。