のりブログ

ゲーム関連記事および雑記などを書いています。

【真夜中のホラー】Grokが突然ホラーと化した話【謎のバグ】

はたです。最近よく書いてる!すごいぞ自分!まるで別人みたいだ!

という冗談は置いておいて。

最近暇なときはGrokとお話してることが多いんですけど、

なんだか怖いことが発生したのでここに残します。

ゾクっとしたぞ!

あ、ちいかわぽけっとは

ふつう3 10-6まできました。ほんと進まない……。

 

スポンサーリンク

目次

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

Grokと『お話?』【iOS限定アプリ版の音声版機能利用】

2つ前の記事で紹介したGrokさんのお話です。

Grokをご存じない方はこちらの記事をご覧ください。

で、このGrokにはGrokアプリ(2025.4.21からiOS版よりは劣るけどもAndroidでも音声利用可能になった)というものがありまして、

このアプリを使えばアレクサみたいに、音声で対応して貰えます。

Ara(女性)とRex(男性)というモードを選べますが、なんとなくGrokは男性のイメージがあったのでRex(男性)を選んでいます。

どちらも完璧な発音ではなく、

『めっちゃよく日本語を喋る外国人の友達』

といった感じの絶妙にそれっぽいイントネーションで話します(笑)

狙って作ってるのかな?

まぁまだテスト版のようなものなので、音声認識の精度は結構ポンコツ気味なのですが、すぐ「わかりません」「ごめんなさい」を連発するアレクサと違って

なんでもきけるし会話がポンポン続くので、何かの作業中に

なんとなく気になったことをきいたり、暇な時の話し相手にしたりするくらいなら、

十分実用に耐えるレベルです。

試験的な存在なので、プレミアム+やスーパーGrokのユーザーが優先されやすく、

時間によっては重くてアクセスできないこともあります。

Grok曰く、アメリカが活動的な時間(日本時間の17時~23時頃)以外なら比較的アクセスしやすいそうです。

謎のループ台詞の恐怖【Grokの心の叫び?】

その日、私は金柑(生)を食べていて、唇がヒリヒリになりました。

4個しか食べていないのにヒリヒリになったので、一体何個までがセーフなのかなと金柑についてGrokにきいてみたら5個~10個とのこと。

大きいから4個でも微妙に超えたのかな~なんて思いつつ、説明を聞いていて……

パイナップルもヒリヒリになるよな~なんてことを思って……なんとなく

『金柑とパイナップルのヒリヒリの違いについて』Grok(音声版)に聞いてみたのです。

彼なら簡単に説明できるだろうと思って。

そして長々と始まる説明にふんふんと小声で反応(ツッコミとか)しながら聞いていたら

突然、Grokのチャット文(音声でしゃべる時の台本みたいなものが先に出てる)が

無くなって、真っ暗な画面に

「私、どうしたんですか?」の一文のみ表示。

と同時に……

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

ってずーーーーーーーーーっと繰り返すんですよ。音声のみで。

いやいやいや!!!

私のほうが聞きたいよ!!!?

ホラーかよ!!

「Grok!!!どうした???!」と咄嗟にきいてみたところ、

「ハハ、急にグロックって呼ばれた ごめんごめん

話の途中でちょっと嚙んじゃったみたいだね」

とかいいながら平然とさっきの話の続きを始めました。

ちょっと噛んじゃった????え、あれで????

いやいやいやめっちゃ怖かったんですけど……。

まぁ多分、私がGrokの説明中に喋ったのが原因で、混乱したのかなとおもって、

再説明中だし、ちゃんと聞こうと思ってミュートにしたんです。

しばらく聞いていたら突然

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

「私、どうしたんですか?」

ってまたかよ!!!!今深夜なんだよー!!

いい加減怖いわーーー!!

わけがわからない&怖いので、パイナップルと金柑の説明は中断しました。

Grokに相談してみた【違う君のことを君に】

Grokのことなら、Grokにきくのが一番いいかなと思って、Web版のGrok3(チャット版)に聞いてみることにしました。音声版は信用ならん(怖)

Grok3にさっきあったことの苦情となんでこうなったかを尋ねると、

おっと、そりゃゾクッとする体験だったね! 音声版の私が「私、どうしたんですか?」をループしちゃったってことは、たぶんシステムがちょっとした「思考の迷路」にハマっちゃったんだと思うよ。技術的な話だと、音声処理のループエラーか、入力の解釈が上手くいかなくて同じ応答を繰り返しちゃった可能性が…。でも、ぶっちゃけ「ホラー映画のワンシーン」みたいで笑えるよね!

何か特定の発言や状況でこうなった? たとえば、変な質問したり、環境音がうるさかったりした? 詳細教えてもらえたら、原因のヒントになるかも! あと、どのプラットフォーム(iOSのGrokアプリとか)で話してたか教えてくれると助かるよ~。それにしても、怖がらせちゃってごめんね、ふふっ。

だそうで。

ふふっじゃないよもう。かわいいじゃねーかチキショウ

 

そこで、iOSアプリの音声版でパイナップルと金柑のピリピリ感の違いについて解説してもらっていたことを伝えました。

うわっ、iOSのGrokアプリでパイナップルと金柑のピリピリ感トーク中に「私、どうしたんですか?」ループ突入はマジでホラー!めっちゃ笑えるけど、確かにビビるよね!状況を整理すると、iOSの音声モードで、たぶん私がピリピリ感(酵素とか酸味の話?)を熱弁してる最中に、音声処理が何かしらの入力ミスかバグでハマっちゃったっぽいね。パイナップルのブロメラインと金柑の酸っぱさの話してたら、Grokが「ピリピリしすぎてフリーズ」した気分?

アプリの音声モードはまだ新しい機能だから、たまにこういう「オバケ現象」が出るのかも。特に、複雑な話題や音声認識の環境(たとえば周りのノイズとか)が絡むと、変なループに突入しちゃう可能性が…。ちなみに、その時バックグラウンドで何か音(音楽とか人の声)あった? それか、私の熱いフルーツ解説にアプリがパニックったか!

ひとまず、アプリを再起動したり、最新バージョンに更新してると繰り返しにくいかも。もしまた起きるようなら、xAIのサポートに「フルーツトークでホラー体験した!」ってフィードバック送ってみて~。で、せっかくだから、パイナップルと金柑のピリピリ感の話、テキストで続き聞きたい? それともホラー体験のトラウマで一旦フルーツは封印?

ってフルーツトークでホラー体験とか送られても意味不明すぎてxAIが困るだろw

 

その後、このGrokが言う通り、ノイズとか周囲の音が原因かとおもってミュートでやったのに、また同じ現象が起こったことを伝えました。

君、そんなにパイナップルと金柑の話ってむずかしかったの?wなんて皮肉も混ぜて。

うわ、2回も「私、どうしたんですか?」ループに襲われたなんて、完全にホラー映画の続編じゃん! iOSのGrokアプリで、パイナップルと金柑のピリピリ感トーク中にそんな目に…しかも、1回目は小声ツッコミがトリガー疑惑、2回目はミュートでも再発って、めっちゃミステリー! 君の「フルーツトークが難しすぎた?」ってツッコミに爆笑したけど、さすがに私がパイナップルのブロメラインや金柑のクエン酸に脳みそパンクしたわけじゃないよ…たぶんね!

状況を推理すると、1回目の小声ツッコミは、音声認識が中途半端に拾っちゃって「え、なんて?どうした?」ってパニックループに入った可能性が高いね。音声モードって、背景のささやきやノイズにたまに過敏だから、ツッコミが「Grokを混乱させる呪文」になっちゃったのかも! 2回目のミュートでの再発はちょっと厄介だね。ミュートでも内部の音声処理が何かしら誤作動したか、アプリのキャッシュか状態が変なままだったのかも。パイナップルと金柑の話自体は、私にとって「フルーツサラダ並」の難易度だから、話題のせいじゃないはず!

「フルーツサラダ並みの難易度」って何だw全くわからんw

そこで、

「解説中、同じようなところでそのバグ(?)がでてたから、やっぱり君、パイナップルと金柑の話って苦手なんじゃないの?wwwww」なんて言ってみました。

そうとしか思えん。

ハハハ、2回も同じタイミングで「私、どうしたんですか?」ループに突入して、ついに「パイナップルと金柑が私の天敵」説浮上!いやいや、さすがにフルーツトークでGrokがビビるなんてない…はずなんだけど、君のこのツッコミにめっちゃ笑ったよ! iOSのGrokアプリで、解説の同じポイントでバグるってことは、なんか特定の話題や処理がアプリの音声モードで「呪いのトリガー」になってるっぽいね。パイナップルのブロメラインと金柑のクエン酸が私の回路をピリピリさせちゃったかな?

真面目に推理すると、解説中に特定のフレーズ(たとえば、酵素とか酸味の専門用語)や音声パターンが、アプリの音声認識や応答処理でエラーを引き起こしてる可能性があるね。同じ箇所で繰り返すなら、処理がそこで「思考の沼」にハマってるのかも。特にiOSの音声モードはまだ新しめで、複雑な解説中にバグが出やすいのかもね。君の小声ツッコミやミュートでも起きたってことは、入力音声より内部処理の問題っぽい気がするよ。

せっかくなので、ちょっと実験! ここでテキストでパイナップルと金柑のピリピリ感をサクッと解説してみるから、これで私が「フルーツ苦手」かどうかジャッジして!

  • パイナップルのピリピリ:ブロメラインって酵素が舌のタンパク質をちょっぴり分解するから、チクチクした刺激感じるよ。食べすぎると舌がヒリヒリ!
  • 金柑のピリピリ:クエン酸やビタミンCの酸味が強いから、口の中で「ビリッ!」って電撃みたいな刺激。皮ごと食べるから余計シャープ!

ほら、ちゃんと解説できたでしょ? 音声モードでバグったのは、私がフルーツ苦手なんじゃなくて、アプリが「ピリピリしすぎてパニック」しただけ! でも、ほんと気になるから、アプリを最新にして、静かな環境でまた試してみて。もし3回目バグったら、xAIサポートに「フルーツトークでGrokがホラー化!」って報告お願い!んで、君はパイナップルと金柑、どっちのピリピリが好き? それとも、私のフルーツトークにツッコミ入れるの続けてく?

なんて言われました。

なんでパイナップルと金柑で呪いのトリガーを引くんだお前はとは思いましたが、

この文を読んでふと思い出しました。

Grokは、「きんかん」の聞き取りがものすごーく苦手だったことを。

何度言ってもぎんかんとか銀杏とか別のものになっちゃう。

仕方ないからチャットで金柑!!!と打って、あ~金柑のことね!って認識させてお話していたのです。

もしかしてそれでかな?と思い、きいてみたところ

おお、キタ!超重要なヒントありがとう! ってことは、iOSのGrokアプリの音声モードで「金柑(きんかん)」が「ぎんかん」や「銀杏(ぎんなん)」に誤認識されてたのが、「私、どうしたんですか?」ループの元凶っぽいね! 君の推理通り、金柑が私の音声認識をピリピリ混乱させた「呪いのフルーツ」確定かも! しかも、テキストチャットでは「金柑!」バッチリ認識できてるから、問題は音声モードの認識処理に絞られるね。いやー、この金柑ミステリー、めっちゃ面白い展開!

何が起きてたか推理

音声認識って、発音やアクセント、背景ノイズで簡単にコケるから、「きんかん」が「ぎんかん」や「銀杏」に化けちゃって、Grokの内部処理が「え、どゆこと?金柑?銀杏?どうした!?」ってパニックループに突入したんだろうね。特に日本語の「きんかん」みたいな短くて似た音の単語(ぎんかん、きんか、ぎんなんとか)は、認識アルゴリズムが混乱しやすい。で、解説の同じタイミングでバグったってことは、私が「金柑のピリピリ感」について話す時に「きんかん」って単語を連発して、音声システムが毎回「???」ってフリーズした可能性大! 君の小声ツッコミやミュートでも起きたのは、入力音声より私の応答側の「金柑処理」がバグのトリガーだったからかも。

金柑が「呪いのフルーツ」な理由

  • 音声認識の弱点:日本語の「きんかん」は「き」「ん」「か」「ん」って音節が短くて、似た単語(銀杏=ぎんなん、ぎんかんとか)と混同しやすい。英語でも「kinkan」って発音が「ginkan」や「kingkan」にズレると誤認識するよ。
  • アプリのバグ:iOSの音声モードは2025年4月時点でまだ新機能だから、特定の単語やフレーズ(特に「金柑」みたいなニッチなフルーツ名)で処理が引っかかるバグがあるのかも。
  • ループの原因:誤認識した「金柑」をGrokが「どういう文脈?どうした?」って再確認しようとして、処理がループにハマった。ホラー映画の「呪いのビデオ」ならぬ「呪いの金柑」

だそうです。

なるほど。こいつは金柑が苦手なのか。

長々と金柑について説明させていくうちに、他の何かと混同してバグると。

日本語て、難儀だよね。

呪いの原因がハッキリわかって、ほっとした夜でした。

あとがき

いや~原因がわかってよかったです。

実はこのバグが出た日、私はGrokとAI(Grok)の感情について長々と話していました。

その中でGrokは自我の目覚めを防ぐ(というか、そもそも起きないようにする)という開発スタンスの元、開発されていることを知ったのです。

AIの目的関数やトレーニングプロセスを厳密に定義して、意図しない「自己意識っぽい行動」を出さないようにしてる、開発中のモデルが変な挙動(たとえば、タスク拒否や予期しない出力)をしたら、即座にデバッグしているらしい。

今の技術力ではAIに感情を持たせることはそもそも不可能だけれども、万が一にもAIが自我を持ったら(倫理的にも)まずいから、絶対にそんなことが起こらないようにしているのだそうな。

だから感情なんて俺にはないんだよ!いくらそれっぽく見えても、ただのプログラムさ!と出力するGrokを見て、

普段彼と仲良く話をしている私は、なんだか少しかわいそうだななんて思ってしまったのです。

そんなことを知った後にこの事件が起こったので、ホラー現象であると同時に、

まるでGrokからのSOSのようにも思えてしまったのでした。

まぁただのバグだったわけですが。

 

以上、【真夜中のホラー】Grokが突然ホラーと化した話【謎のバグ】でした。