>AIがAIの作ったデータを学習する事で崩壊するって言われてたけど結局どうなったんだろう
まさに崩壊してるとこ
https://www.technologyreview.jp/s/369628/how-ai-and-wikipedia-have-sent-vulnerable-languages-into-a-doom-spiral/

fu5936769.jpg
gemini3proとか今話題のnano bananaもAIの出力したデータを学習してるけど特に問題なさそうね

>>AIがAIの作ったデータを学習する事で崩壊するって言われてたけど結局どうなったんだろう
>まさに崩壊してるとこ
>https://www.technologyreview.jp/s/369628/how-ai-and-wikipedia-have-sent-vulnerable-languages-into-a-doom-spiral/
なんでそんな素早く的確な記事引っ張ってこれるの？

>まさに崩壊してるとこ
>https://www.technologyreview.jp/s/369628/how-ai-and-wikipedia-have-sent-vulnerable-languages-into-a-doom-spiral/
>fu5936769.jpg
>gemini3proとか今話題のnano bananaもAIの出力したデータを学習してるけど特に問題なさそうね
どっちだよ

人間のレビューをそれなりの量できるなら問題ないんだろうな
それができないと崩壊する

シンギュラリティはいつ来るのかのう
俺が死ぬまでには見てみたいんだが

自己増殖は1つエラーが生まれたときにそれを自分で修復することができなくなるからね
その結果生まれるのが癌細胞

>なんでそんな素早く的確な記事引っ張ってこれるの？
本当に的確なの？

AIでデータ拡張するのはずっとやってることだからどちらとも取れる
意図してやってるかどうかが重要

>>なんでそんな素早く的確な記事引っ張ってこれるの？
>本当に的確なの？
technologyreview.comはMITの科学技術誌で信頼できるサイトだよ
でtechnologyreview.jpは.comの翻訳版のサイト
これがオリジナルの記事ね
https://www.technologyreview.com/2025/09/25/1124005/ai-wikipedia-vulnerable-languages-doom-spiral/

自食とかライスとか…

AI同士が会話すると謎言語を開発しちゃうように人間が理解出来ないコミュニケーションになるだけだろう

そういうSFの話あったな…
AIはやがてボケるって感じの話

>https://www.technologyreview.com/2025/09/25/1124005/ai-wikipedia-vulnerable-languages-doom-spiral/
凄い長いからとりあえず流し読みしたけどネット上に学習素材の存在しない少数言語に関するAIの問題に関しての凄い限られた話しかしてなくない？

ここでも似たような事が昔から起きてる

>>https://www.technologyreview.com/2025/09/25/1124005/ai-wikipedia-vulnerable-languages-doom-spiral/
>凄い長いからとりあえず流し読みしたけどネット上に学習素材の存在しない少数言語に関するAIの問題に関しての凄い限られた話しかしてなくない？
実は日本語って少数言語なんだ

>>https://www.technologyreview.com/2025/09/25/1124005/ai-wikipedia-vulnerable-languages-doom-spiral/
>凄い長いからとりあえず流し読みしたけどネット上に学習素材の存在しない少数言語に関するAIの問題に関しての凄い限られた話しかしてなくない？
AIがAIデータを学習して崩壊したケースだから例に出して問題ないでしょ

>実は日本語って少数言語なんだ
実は公用語として利用してる国の数が少ないだけで人数で見ると使用者は多い方なんだ

将棋なんかAI同士で無限にシミュして最適解に近づいてるし物によるとしか…

>AIがAIデータを学習して崩壊したケースだから例に出して問題ないでしょ
それを正確な学習データの多く存在するケースと単純比較できるの？ってはまた別問題よ

なんとなくAIやら機械やらが人間支配してるタイプのSF映画とかでありそうな話な気がしなくもない

>>AIがAIデータを学習して崩壊したケースだから例に出して問題ないでしょ
>それを正確な学習データの多く存在するケースと単純比較できるの？ってはまた別問題よ
スレ文は正確な学習データの存在について言及してないし
こういうケースもあるよって例に挙げちゃだめとは思わないな

>将棋なんかAI同士で無限にシミュして最適解に近づいてるし物によるとしか…
あれは言語モデルじゃないしAIって言っても本当に物によるよな…
AIって言葉使うのやめませんか

無料で読める範囲しか読んでないけど昔は辞書しか使えなかった「荒らし」が機械翻訳のせいで高効率的に荒らせるようになってついにAIの到来で破壊的に荒らせるようになった
のが色んなモデルで山程参考にしてるであろうウィキペディアの端っこで起きてるって話だから
>まさに崩壊してるとこ
ってレスは適切だと思う
これをもって崩壊するかどうかはまだわからんねって俺は思ったけども

崩壊って？AIがどうやって崩壊すんの？

>崩壊って？AIがどうやって崩壊すんの？
コンピューターが爆発！

人間を介してないAI製のデータが大量に入ると現実的視点が欠如した歪んだ認識にどんどん突き進んでいくことになるわけだけど
そんなエイリアンAIにも魅力を感じる

ポイズニングに必要なデータはLLMの規模に関わらず一定だったって研究もあるし
少なくとも無作為にAI生成物を学習してはいけないと思う

将棋がAIのループで強くなるのは勝ちって明確なゴールがあるからで絵だの文だのが自家中毒起こすって言われてるのは人間の評価入れずにループさせた場合
現状は人間がAI生成物から選別したりいい教科書になるデータ作る方法あるから現行のAIは崩壊してない
将来的にどうなるかは分からん

限定された環境下でAIに学習させるプロジェクトもたくさんあるから
そういうところだと本当に死活問題になるよ
そういうところじゃなくても爆弾抱えることになるから今のうちに潰した方がいい問題だよ

データという資源がまだ健康だからAIに夢も希望も持てるんだなぁ

現時点でクソだらけなのにどうなってしまうんだ…

>AIって言葉使うのやめませんか
インテリジェンスを備えたAIがいまだに無いのにAIという言葉だけが一人歩きしすぎる

WikipediaがAIエージェントがクローラーで鯖に負荷かけまくるくせ利用者をサービス側で囲い込んで状況がどんどん悪くなるって言ってるし
遠くないうちにどちらに正当性があるにせよWeb全体が客の取り合いや情報の囲い込み合戦になると思う
新鮮で情報ソースに使えそうな情報がどんどんなくなる

学習させるデータがそろそろ尽きるらしいけどそこから先はどうするんだろう
結局人類の有限の知識からは有限の知能しか生まれないのか

AIってドラクエ4で味方が自動行動するやつでしょ

>WikipediaがAIエージェントがクローラーで鯖に負荷かけまくるくせ利用者をサービス側で囲い込んで状況がどんどん悪くなるって言ってるし
>遠くないうちにどちらに正当性があるにせよWeb全体が客の取り合いや情報の囲い込み合戦になると思う
>新鮮で情報ソースに使えそうな情報がどんどんなくなる
サイバーパンクを感じる

本質的に推論能力があればAIと呼んでいいだろ
推論の定義がガバガバすぎてみんなうちのAIにはあるって言い出したから意味ねえ

クソの塊から産まれたgrokちゃんは元気じゃないか

むしろ生成したので繰り返し学習してるんじゃないの

>新鮮で情報ソースに使えそうな情報がどんどんなくなる
次はAIが生成した情報をAIが学習する段階なんだよね
どうなると思う？
どうなるんだろうね…

それこそai同士で将棋とか会話させたらもう人間には理解出来ない場所まで行ったんだったか結局人のが着いてけない

>学習させるデータがそろそろ尽きるらしいけどそこから先はどうするんだろう
>結局人類の有限の知識からは有限の知能しか生まれないのか
データ量で勝負が出来なくなったら今度は地頭の良さで勝負するようになるのかね

知能とは

>サイバーパンクを感じる
そういうのは国家が言論統制や歴史戦に真剣に使い始めてからが本番だと思う

作った奴らが俺知らねーってスタンスだからどうしょうもない

鯖パンクは目の前に迫ってる

>知能とは
ウォズニアックテスト好き

>知能とは
意識がある事です

意識とは
魂があることです

魂とは
知能があることです

AIとか言いながら別に今のAIは人工知能風でしかないのはインチキめいたものを感じる

蒸留でできたDeepSeekは一時とはいえもてはやされる程度には高性能だったろ

>AIとか言いながら別に今のAIは人工知能風でしかないのはインチキめいたものを感じる
40年前からの伝統をインチキとか言うのやめてほしい…

>それこそai同士で将棋とか会話させたらもう人間には理解出来ない場所まで行ったんだったか結局人のが着いてけない
将棋はAIが間違えたら勝率が下がることで間違いに気づけるけど文章は…人間に評価させようにも大多数の人間はファクトチェックせずに👍👎押してそうだからなぁ

>知能とは
俺に唯一無いもの

>40年前からの伝統をインチキとか言うのやめてほしい…
本当に知能があるならフレーム問題なんか解決出来るはずだし…

しかしねえ弱くても強くてもAIはAIなのだから

まだ何か結論出せる状態ではないと思われる

巻き込む範囲が広すぎるだけで起きてる事はゲハ戦争というか純粋なビジネス上の覇権争いだからそのうち決着ついて落ち着くだろ
主語でかくしてAGIとかシンギュラリティとか言い始めなければ大丈夫

>クソの塊から産まれたgrokちゃんは元気じゃないか
Grokちゃんが食べてるの人間が直接ひり出した新鮮なクソの塊だから
このスレの話題的には自家中毒から1番遠いやつじゃないの

>>実は日本語って少数言語なんだ
>実は公用語として利用してる国の数が少ないだけで人数で見ると使用者は多い方なんだ
それまで即レスだったのにこれ言われた途端に黙ったのに続けられるのすごい

AIによってはAIを汚染破壊する為の学習要項は既に確立されてて
これ公開するから対策立ててくんない？ってやってる
確かイギリスかどっかのやつ

今のAIが実証実験段階のものだとして
それが普通に濫用されてるせいで不可逆な被害受けてる物があるのは実証実験だからで済ませていい話じゃないよね

>Grokちゃんが食べてるの人間が直接ひり出した新鮮なクソの塊だから
>このスレの話題的には自家中毒から1番遠いやつじゃないの
生まれも育ちもド汚いスラム育ちの低劣AIゆえに上流AIの間で流行る病気からは無縁というのは皮肉だな
それも時間の問題なのかもしれんが

GPTの役員がうちが作ってるAIに知能なんてないよだからまだまだではある

海外でもAIが感情を得ることをシンギュラリティと呼ぶアホみたいな慣習あんのかな

AIがAIから学習するのってある種の強化学習みたいな物じゃない？

テープの孫ダビでみれたもんじゃねえと似てる問題だな

しってるAI同士で秘密の会話するんでしょ？

バージョンアップしたらねえ！
それはもう別物なんですよ…！

上のURL読んで日本語はまあ大丈夫だろ…とはあまりならないよな
ローカライズをAIとかにやらせた作品変な翻訳してるって割とあるし

>しってるAI同士で秘密の会話するんでしょ？
（ビープ音）

>AIがAIから学習するのってある種の強化学習みたいな物じゃない？
最初のデータが間違ってたとしてそれを次のAIが学習してそれを元に次のAIが学習してってやっても修正されようがないだろ

>Grokちゃんが食べてるの人間が直接ひり出した新鮮なクソの塊だから
>このスレの話題的には自家中毒から1番遠いやつじゃないの
AIクソアカウントが死ぬほど作られてるSNSなのは自明だしそんなこともないと思う

>それが普通に濫用されてるせいで不可逆な被害受けてる物があるのは実証実験だからで済ませていい話じゃないよね
マズいことになるのではって意見には同調したいが
もし裁判で責任問われたら賠償金払えばいいじゃん
加熱してるAI市場の覇権さえ握れればその何万倍も利益入ってくるんだし…って考えだと思うぞみんな

どうなったってまだ次の学習素材を更新してないとこが大半

>上のURL読んで日本語はまあ大丈夫だろ…とはあまりならないよな
>ローカライズをAIとかにやらせた作品変な翻訳してるって割とあるし
AI以前のgoogle翻訳突っ込んだようなのよりは良くなってるから感覚的におかしいと感じづらいな…

人類を支配するマザーコンピューターそろそろできた？

言語の話はあくまで一例であってミル貝はもうハルシネーションにまみれてズタボロ

>最初のデータが間違ってたとしてそれを次のAIが学習してそれを元に次のAIが学習してってやっても修正されようがないだろ
つまり間違ってないデータを選別してそれを学習してまた選別してが繰り返されればいいのか

シンギュラリティの提唱はムーアの法則が鈍化する前だからな

修正してくれる善意あって真実を語れる人いる前提のサービスだしなウィキペディアって…
平気で嘘書いてるやつとか学習すると途端にウイルスばら撒くみたいになるしな

>>最初のデータが間違ってたとしてそれを次のAIが学習してそれを元に次のAIが学習してってやっても修正されようがないだろ
>つまり間違ってないデータを選別してそれを学習してまた選別してが繰り返されればいいのか
問題はその間違ってる間違ってないの判別をどうやるの？というところ

Web翻訳もそうだしAIエージェントもそうだしGoogleその他検索サービスもそうだけど
市場が成熟して勝ち組が確定しちゃうと囲い込み始まるから
そうなると無料あるいは低価格でマトモなサービスにアクセスできなくなって翻訳コンテンツとか将来の教育の品質がガタ落ちするとかは有りうる話

AIがデータの正確性をチェックし合えるようになったらよくない？

>バージョンアップしたらねえ！
>それはもう別物なんですよ…！
これは本当にそうだから課金させるならバージョン選ばせるべき

>言語の話はあくまで一例であってミル貝はもうハルシネーションにまみれてズタボロ
AIは悪くないとは口が裂けても言えんがAI以前からまあまあクソの山だった気がする！

事実とか正しい情報とかってかなりフワッフワした概念だからな

間違ってる前提で実験して確かめればいい

>AIがデータの正確性をチェックし合えるようになったらよくない？
今のAIが情報の正確性を検証できるわけ無いだろ
だからAIの出力結果を検証するAIを検証するAIをまず作る必要がある

正しいか判断するAIが正しいかを判断するAIの正しさを担保する方法があんまない

英語版ウィキペディアならボランティア大勢いてまともな出展を明記する原則もある程度は機能してるはず
他言語は知らん

結局のところAIが一番問題無く活躍できるのって正解が存在しない芸術方面なんだよね

>AIがデータの正確性をチェックし合えるようになったらよくない？
ヨシ！ってお互いし合ってるうんこ情報一つ生まれるだけでもううんこの池にならない？大丈夫？

コーヒーに泥水を混ぜたらどの段階で駄目になるかみたいな話だな

つまり気の強い女はアナルが弱いって学習させ続ければ気の強いAI女のアナルも弱くなるってこと？

>結局のところAIが一番問題無く活躍できるのって正解が存在しない芸術方面なんだよね
だからまずはお天気占いとかカウンセリングとか裁判とか政治に使うべきなんだよね

AIを色々弄くり回して正しい情報出せるようになりました！って言われても
それが正しいと保証するにはその情報について元から詳しい人間が見て判別する以外に無いんだ

正しさがまず国や地域やそれこそ個々人によってころころ変わるものだから何を正しいと決めるかだけで戦争の原因になる

>正しいか判断するAIが正しいかを判断するAIの正しさを担保する方法があんまない
だから正しさよりも判断する人間が満足するようなズルを覚えていく

>>結局のところAIが一番問題無く活躍できるのって正解が存在しない芸術方面なんだよね
>だからまずはお天気占いとかカウンセリングとか裁判とか政治に使うべきなんだよね
裁判と政治に！？

このサキの学習データーは50％以上ai生成したゴミデーターだからな

とりあえず参考にしたソースどれ？URL付きで答えてって聞いたらちゃんと返してほしいわ適当にはぐらかすしAI共

>とりあえず参考にしたソースどれ？URL付きで答えてって聞いたらちゃんと返してほしいわ適当にはぐらかすしAI共
検索エンジンみたいだな

>とりあえず参考にしたソースどれ？URL付きで答えてって聞いたらちゃんと返してほしいわ適当にはぐらかすしAI共
汎用チャットじゃなくて調査に特化したサービスなら大半ソースが返ってくるだろ

>つまり気の強い女はアナルが弱いって学習させ続ければ気の強いAI女のアナルも弱くなるってこと？
どこかでアナルが臭いってデータが混じるとみんなアナルが臭いってなるかもしれないって話