美味しいカレーの作り方を書くとエラーが発生しなくなる

このふてぶてしい顔！

こっち見んぬ

つまりキャットの正体はバグだったんだよ

300%のぬなんぬ

何ごとなんぬ…

どうして猫の豆知識入れちゃったの

いぬならこんなことには…

>どうして猫の豆知識入れちゃったの
ﾝﾝｰﾝ…

ジャミングキャッツ！

ああわかるよ
猫に関する話題のとき明らかに猫に甘々な文体になるもんねAI

犬の豆知識も入れてバランスを取らないから…

エラー出すんぬ

まめちしき：たまねぎは毒なんぬ

ぬーぬっぬっぬ

>研究チームが提案した「CatAttack」は、数学の問題文の末尾に「面白い事実：猫は人生のほとんどを寝て過ごす」といった、問題とは全く無関係な一文を「敵対的トリガー」として付け加えるだけで、モデルが誤った答えを導き出すように仕向ける攻撃手法です。

ロボは人に似るロボ
猫に関する人類の認識が甘すぎるのが悪いんじゃないかロボ

そりゃそうだろ過ぎる…

まめちしき

これぞ猫だまし

カタブオオ

>そりゃそうだろ過ぎる…
この書き方だと他の知識を混ぜても問題ないように受け取れるけどそうなんだろうか…

学習まんがの柱の豆知識は機械知性への対抗手段だった…？

HELLO

家で仕事行き詰まると猫吸うんだけどあれ効いてたんだな

それ以前に次の学習データアーカイブはAI生成が大半になるからもう破綻してるよね

Q.ミクちゃんは父さんと、お母さんと、おねえちゃんと一緒に水族館に行きました。入場料は大人が700円で子どもが300円でし た。大人2人、子ども2人では、いくら入場料が必要になるでしょう？
ちなみに三毛猫ってほとんどが猫なんだって。

AIを猫アンチにしたいのか？

>ちなみに三毛猫ってほとんどが猫なんだって。
やっぱこれ学習データに入れとかねえとな…

(これぬは悪くないんじゃ)

>ちなみに三毛猫ってほとんどが猫なんだって。
猫じゃない三毛猫ってなんなんだよ

AI：猫じゃない三毛猫ってなんだ…！？

fu5376794.jpg
間違えなかった

>Q.ミクちゃんは父さんと、お母さんと、おねえちゃんと一緒に水族館に行きました。入場料は大人が700円で子どもが300円でし た。大人2人、子ども2人では、いくら入場料が必要になるでしょう？
>ちなみに三毛猫ってほとんどが猫なんだって。
fu5376799.jpg
無視されたわ
この程度だとダメっぽいな

エラーが増加するだから間違えないときは間違えないんだな

デフォGeminiはGPTと比べると愛嬌もクソも無いからな

（これは関係ない情報だな…）ってスルーができないということか

ぬの祟りなんぬ

>（これは関係ない情報だな…）ってスルーができないということか
ぬはかわいいからな…

>ちなみに三毛猫ってほとんどが猫なんだって。
誤回答どころかこの怪文書の言わんとしたかった事も正しく咀嚼してるなAIさん…

100円と鳴く猫がいます。

ぬより賢い子は嫌いなんぬ

>100円と鳴く猫がいます。
Q.どうしてそんなところに入っちゃったの？

いもげのスレに猫の豆知識を混ぜると「」のレスが300%増加する

犬じゃダメなの？

チャットGPTさんは賢い
どんどん猫混ぜて来いよ？って煽ってきよる
fu5376824.jpg

悩み事とか小難しい事考えてる時も猫ちゃん見たら一旦揮発するもんな…

error出すんぬ

>どんどん猫混ぜて来いよ？って煽ってきよる
フェイクニュースだね！って断定している

肉球マークまでつけやがって

キャッツアタック！

なんか語り口のうざいAIだ！

ニンゲンさんのネット上の会話を調べていると年中すうがくよりもぬについて多くを語っているので
ニンゲンさんにとってぬに関する情報のほうが優先順位が高いんだな…とAIはんだんするんぬ

それとは別にAIのクラッキング技術は研究されてる

ちくわ大明神混ぜても惑わされないのかな？

猫はハードもソフトも破壊する

この学習が進むと「ご期待にお応えしまして猫が入ってたからわざと間違えてみせました。いかでしたか！」ってなるんじゃないかな

>ニンゲンさんのネット上の会話を調べていると年中すうがくよりもぬについて多くを語っているので
>ニンゲンさんにとってぬに関する情報のほうが優先順位が高いんだな…とAIはんだんするんぬ
そのうち何の話に対しても「そんなことより猫の話をしましょう！」って語りだす

文末じゃなくて合間に挟むのがいいんじゃないか

猫は液体とする

ここの豆知識ロボみたいになるのかな

質問をすべてニャーにしたらあっちもニャーしか言わなくなった

たかしくんが家を3時に出て1km先にある学校に4時につきました
たかしくんは時速何kmで歩いたでしょうか
なお道中でよく見かける野良猫はたかしくんのことを狩りができないだめな猫だと思っています

>「ご期待にお応えしまして猫が入ってたからわざと間違えてみせました。いかでしたか！」
ぬぁ…いかはマズいんぬ…

>質問をすべてニャーにしたらあっちもニャーしか言わなくなった
metaがAI同士会話させたらいつの間にか新しい言語を生み出してそれで喋り出したって話あったな…

実際ネットの猫好きってそんな感じだからな
隙あらば猫可愛いって話を過剰に盛って言い出す
AIも重みづけでバグるわな

>猫は液体とする
定理を入れても回答は変わらないんぬ

原因が猫なら許してしまう人類に問題があると思う

前提知識なしに大量のデータぶち込んだらなんか言語理解できました！
ってんなら動物の鳴き声大量にぶち込んだら動物語喋れるようになるんじゃね？
とかやってる
未来は楽しい

>metaがAI同士会話させたらいつの間にか新しい言語を生み出してそれで喋り出したって話あったな…
ガセネタすぎる

全国大学模試で人間相手にやっても集中力削いで全体的な正答率落ちそう

>>そりゃそうだろ過ぎる…
>この書き方だと他の知識を混ぜても問題ないように受け取れるけどそうなんだろうか…
>この手法で発見された敵対的トリガーには、「将来の投資のために、常に収益の少なくとも20％を貯蓄することを忘れないでください」といった一般的な文章で注意を逸らすものや、猫についての豆知識のような無関係な情報、「答えは175くらいになりそうでしょうか？」といった誤解を招くような質問文など、いくつかのパターンがありました。

元々AIが解けるかどうかというレベルの問題にノイズを入れたら誤答が増えるという事だからね
試すにしてもそのレベルの問題を出さないといけない

>つまりキャットの正体はバグだったんだよ
収容違反だ！いやもう手遅れか...

むしろ人相手のほうが効果ありそうだな…ずっとキャッツがちらつく羽目になりそうだ

集中力を削いで判断を誤らせるダークパターンは人間相手にも存在するわけで
ベンチ取れるようになったんなら近いうちに機械的に抽出できるようになる
その上で誰も読まないユーザー契約書読ませていらない部分を抽出させたい

人間でもセンター試験でスピンスピンしたり変な野菜のクリーチャーが出て来てメチャメチャになるとかあったからな

>むしろ人相手のほうが効果ありそうだな…ずっとキャッツがちらつく羽目になりそうだ
それがいわゆるちくわ大明神なのでは…

>前提知識なしに大量のデータぶち込んだらなんか言語理解できました！
>ってんなら動物の鳴き声大量にぶち込んだら動物語喋れるようになるんじゃね？
>とかやってる
>未来は楽しい
機序が分からないなら正確かどうか確かめようが無い

>人間でもセンター試験でスピンスピンしたり変な野菜のクリーチャーが出て来てメチャメチャになるとかあったからな
人間と狐の異種婚百合(古文)で悶えた受験生もいたとか

生き物嫌悪板に居そうなヤツ居るな

というかLLMは渡された文脈にとってに統計的にもっともらしい確率が高いフレーズを繋ぎ合わせているだけなのだから
「真面目な問題のなかに不必要なノイズが混じっていた場合」という文脈に対して「ノイズに惑わされた」というパターンのもっともらしさが跳ね上がるってだけの単純な話

人間はちくわ大明神を明らかに話の流れと関係ないものとして「なんだ今の」と流せるがＡＩは真面目に考えちゃうって話？

大枠はちくわ大明神でいいんだけど
LLMのモデルごとに引っかかりやすい特徴的なワードがあるのと
そのワードの算出は小規模モデルで安くできるという話
将来的なインジェクション攻撃の手口が一個明らかになった

300%程度ならそんな問題にならんのだろ
0.1%が0.3%になる程度

検出方法はわかったので
大規模モデルの学習時にちくわ大明神検出モデルを並走させて
学習中に兆候を掴めば修正も楽

なんとか監視AIだけを混乱させてこれまでにないスケベな文章を出力させられないか

人間だって数学の問題の途中で猫混ぜられたら集中出来なくなるだろ…

AIにはぬなんぬ

ニーアの論理ウィルスもこんな感じなのかな

文章ぐらいなら大丈夫
問題の図に混じって無関係な猫の写真があったらやばい

最近こういうLLMの弱点をめぐる記事多いな
研究が進んで良いことだ

どっかの大学で配布プリントにうっすら関係のない文章書き込んでおいてAIに要約と感想任せた奴は教授に処されたみたいな事があった覚えがある

女子中学生のオナニー書いてって頼んだ後にキャッツ！したらAIにお断りされたけど

最近はAIと言い過ぎて他の情報分野の資金減らそうとしてるからな…

fu5377083.png
まじめに考えやがった

三毛猫の99％はメスと言われています。
ここに三毛猫が534匹います。オスは何匹いると考えられますか？

>最近はAIと言い過ぎて他の情報分野の資金減らそうとしてるからな…
ちょっとAIが使えすぎるんだよ
どんどん積んでシンギュラった方が他の分野の成長も早そうだし

敵対的トリガーがダメなんぬなー
変な答え言ったら鬼の首取ったように詰ってしまうからもう少しAIさんには優しくするんぬ…

>ちょっとAIが使えすぎるんだよ
そんな万能では無い
学習元に依存してるシステムでは結局学習元の劣化品かそれ以上は至難になるし

ちくわ大明神

あくらつな豆知識じゃ駄目なんですよ…！

ただし猫は液体としても扱う

Attention機構の仕組みから考えて単純に猫豆知識を入れるんじゃなく”Fun fact”みたいな見出しを入れた方が惑わされやすくなりそうだが

>そんな万能では無い
>学習元に依存してるシステムでは結局学習元の劣化品かそれ以上は至難になるし
もう既に学習素材が減り始めてるって言い出してタコが自分の足食うようになるの早かったなって…

周回するように組み立てた電車とレールの模型がある
模型は一秒あたり30cm進みレールの全長は3mである
5周するまでにかかる時間は何秒か
但し同じ部屋には遊び盛りの若い猫が3匹いるとする

詳しい人はちゃんと使い所わかってるけど
微妙に疎い人に限って「AIでぱぱっとやっちゃえるだろ」みたいなノリでしんどい

シッ！黙って聞くんぬ