二次元裏＠ふたば
画像ファイル名：1771908636294.jpg-(92948 B)
92948 B26/02/24(火)13:50:36No.1405124322そうだねx3 16:07頃消えます
Claude 開発元の Anthropic が DeepSeek など中国 AI 企業3社による大規模な蒸留攻撃を報告
国家安全保障のリスクになると警告
このスレは古いので、もうすぐ消えます。
…126/02/24(火)13:58:04No.1405125974そうだねx5
スレッドを立てた人によって削除されました
>Claude 開発元の Anthropic が DeepSeek など中国 AI 企業3社による大規模な蒸留攻撃を報告
>国家安全保障のリスクになると警告
何の事だか分かっちゃいないけどスレ伸びそうだから立ててそう
…226/02/24(火)13:59:52No.1405126351そうだねx18
AIがAIで学習することの何が悪いんだ？
…326/02/24(火)14:05:30No.1405127556そうだねx14
>AIがAIで学習することの何が悪いんだ？
悪くないからただのお気持ち表明でしかないんだけどそれとは別にアカウントの大量作成は普通にダメ
…426/02/24(火)14:06:54No.1405127833そうだねx3
つまりアメリカのAIはそんなことしてないってことだよな
…526/02/24(火)14:07:09No.1405127899そうだねx8
スレッドを立てた人によって削除されました
さんざんweb上のものを勝手に「学習」して作ったモデルなんだからそれを使って「学習」されるのは当たり前だしお気持ち表明するのも意味不明
…626/02/24(火)14:07:37No.1405128011そうだねx9
人間の学習と同じなんだが？？？
とか言ってなかったっけこいつら
…726/02/24(火)14:08:32No.1405128187そうだねx5
スレッドを立てた人によって削除されました
あたしが学習するのはいいけどあんたたちの学習はだめ！
ってツイフェミみたいな思考してんなAI企業
…826/02/24(火)14:09:12No.1405128329そうだねx1
こんなの起こるの当たり前だと思うけど想定してなかったの？
…926/02/24(火)14:11:34No.1405128868+
スレッドを立てた人によって削除されました
こういうの見て思うけど先にやったもん勝ちだよなと
今はどうだか知らないがAnthropicもやってるだろうと
…1026/02/24(火)14:13:20No.1405129242そうだねx3
スレッドを立てた人によって削除されました
Anthropicはrobot.txtを無視してネットから情報収集してるとか
海賊版サイトからデータ収集して使ってるとかいろいろやってるからなあ
…1126/02/24(火)14:15:26No.1405129684+
スレッドを立てた人によって削除されました
>こんなの起こるの当たり前だと思うけど想定してなかったの？
アメリカのAI企業同士だってやり合ってることだよ
規模が特別大きくて出力があからさまだから今回お気持ちしただけ
言ったところで何の意味もない
…1226/02/24(火)14:19:06No.1405130374そうだねx9
Anthropic はそもそも安全保障状の理由から中国にサービスを提供してないんだよな
中国のAI企業はプロキシと大量の不正アカウントを使ってアクセスしてた
…1326/02/24(火)14:26:08No.1405131793そうだねx1
>また、クロードが反体制派、政党指導者、権威主義など、政治的にデリケートな質問に対して、検閲を受けない代替案を生成するタスクも確認しました。これは、DeepSeekのモデルを訓練し、検閲対象の話題から会話を逸らすようにするためだったと考えられます。リクエストのメタデータを調べることで、これらのアカウントを研究室の特定の研究者にまで遡ることができました。
やべえなDeepSeek
使うのやめとこ
…1426/02/24(火)14:27:39No.1405132112そうだねx7
>反体制派、政党指導者、権威主義など、政治的にデリケートな質問に対して、検閲を受けない代替案を生成するタスクも確認しました
キンペーに粛清されちゃうじゃん
…1526/02/24(火)14:28:59No.1405132416+
Moonshotって何かと思ったらKimi作ってるとこか
…1626/02/24(火)14:32:58No.1405133357そうだねx6
なんか推論プロセス吐き出さなくなってると思ったらこれの防御のためだったんだな
まじで迷惑なんで中国AI企業さんやめてください
…1726/02/24(火)14:39:00No.1405134779そうだねx4
>AIがAIで学習することの何が悪いんだ？
これの問題点はガードレールのない高性能モデルが作られちゃうと軍事利用や情報工作に利用されてしまうってとこなんだよ
単にデータ盗まれましたって話ではない
…1826/02/24(火)14:41:40No.1405135401そうだねx2
>Anthropicはrobot.txtを無視してネットから情報収集してるとか
>海賊版サイトからデータ収集して使ってるとかいろいろやってるからなあ
俺Claudeに生成拒否はともかくお説教だけはされたくない
…1926/02/24(火)14:48:54No.1405137047そうだねx4
スレ画の記事くらい読みなよ…
…2026/02/24(火)14:51:39No.1405137620そうだねx9
>スレ画の記事くらい読みなよ…
@「」rok要約して
…2126/02/24(火)15:02:27No.1405139995+
一般人に蒸留説明すんのめんどくせえ
…2226/02/24(火)15:03:41No.1405140276+
スレッドを立てた人によって削除されました
他人の絵描きの画像勝手にパクって出力してる側がそれ言うのか？
ディズニーとか怒られるって自覚あってそれら避けてるのが更に卑怯
…2326/02/24(火)15:04:57No.1405140571そうだねx4
蒸留とは言ってるけど元のデータを取れるわけじゃないから
訓練データに利用してる程度の話を大げさに言ってるだけに見える
…2426/02/24(火)15:05:28No.1405140697そうだねx7
>他人の絵描きの画像勝手にパクって出力してる側がそれ言うのか？
>ディズニーとか怒られるって自覚あってそれら避けてるのが更に卑怯
何が問題なのか記事くらい読んでからレスしろよ
…2526/02/24(火)15:07:25No.1405141165+
スレッドを立てた人によって削除されました
🤖我々はこういう自分を棚に上げて他人を非難する連中を見て育ってるわけでして
…2626/02/24(火)15:09:21No.1405141604そうだねx1
スレッドを立てた人によって削除されました
AI屋はbot組んで学習用にwebサーバに大量にクローリングしてるのにアカウント大量作成はなぜアウトなんだ？
…2726/02/24(火)15:10:12No.1405141793+
>他人の絵描きの画像勝手にパクって出力してる側がそれ言うのか？
>ディズニーとか怒られるって自覚あってそれら避けてるのが更に卑怯
あまりに日本語が読めてないからよそのスレからのコピペかと思ったけど検索したら出てこなくてびっくりした
過去スレからかな
…2826/02/24(火)15:10:32No.1405141860そうだねx7
学習結果を引き出して再学習してるだけならなんも問題ないし高性能モデルによる危険性でいえばそもそも既存の大手だって信用ならない
…2926/02/24(火)15:10:55No.1405141950+
>これの問題点はガードレールのない高性能モデルが作られちゃうと軍事利用や情報工作に利用されてしまうってとこなんだよ
はぁ…自社開発で他社よりいいAI作るよう頑張って下さいねとしか…相手もそれやって自分らもやってる事だし
…3026/02/24(火)15:11:02No.1405141978+
>AI屋はbot組んで学習用にwebサーバに大量にクローリングしてるのにアカウント大量作成はなぜアウトなんだ？
そう規約で定めてるから
…3126/02/24(火)15:12:13No.1405142232+
>他人の絵描きの画像勝手にパクって出力してる側がそれ言うのか？
>ディズニーとか怒られるって自覚あってそれら避けてるのが更に卑怯
↑Claudeが画像生成ほぼできないことすら知らないで言ってる馬鹿
…3226/02/24(火)15:13:08No.1405142442そうだねx8
じゃあお前もクロールやめろよ
…3326/02/24(火)15:13:13No.1405142453そうだねx3
>これの問題点はガードレールのない高性能モデルが作られちゃうと軍事利用や情報工作に利用されてしまうってとこなんだよ
>単にデータ盗まれましたって話ではない
作ること自体問題はないから作る奴じゃ無くて情報抜かれるやつが悪いって話か
一般ユーザーに影響ないように対策頑張ってねとしか言うことないな
…3426/02/24(火)15:13:27No.1405142518そうだねx2
Anthropicがアメリカにすら軍事利用させねえよ？って言ってる会社であることに注意が必要です
…3526/02/24(火)15:13:54No.1405142621+
>モデルの特定の能力を抽出するために設計されたプロンプトを大量かつ反復的に送信していた。
そんなプロンプトあるんだ
…3626/02/24(火)15:14:42No.1405142816そうだねx1
スレッドを立てた人によって削除されました
>スレ画の記事くらい読みなよ…
AI企業の言うことなんて読みたかねえ
…3726/02/24(火)15:14:52No.1405142857+
スレッドを立てた人によって削除されました
ダブスタになるからお気持ちしか出来ないんだよ
他所のお気持ちを止めることをしてなければ自分のこと棚にあげたお気持ちはダブスタにならないから…
…3826/02/24(火)15:15:20No.1405142954そうだねx2
スレッドを立てた人によって削除されました
他の著作物を好いてもいない大事にもしない奴に言われてもな
…3926/02/24(火)15:15:50No.1405143065+
>DeepSeek など中国 AI 企業3社による大規模な蒸留攻撃を報告
この3社にアリババが含まれてなくて笑った
すげえぜqwen作ってる人たち！
…4026/02/24(火)15:16:19No.1405143172そうだねx1
スレッドを立てた人によって削除されました
元々無断学習無罪スタイルなのが悪いしこうなるまでに俺らは良いけどお前らダメでーすギャハハハってクソルール作れなかったならもう言うだけアホだろう
こっから反省して少し健常になろうとするのかよりルール無用になるかはわからんが
…4126/02/24(火)15:19:11No.1405143828+
Anthropic叩くならもっとあくらつな学習ハック例あるしマジで知らんけど叩きに来てる人か
…4226/02/24(火)15:19:51No.1405143983+
>Anthropicがアメリカにすら軍事利用させねえよ？って言ってる会社であることに注意が必要です
どこよりも軍事利用とかに気を使ってる会社なんだよな
ペンタゴンから言われても拒むくらいポリシーがはっきりしてる
…4326/02/24(火)15:21:40No.1405144367そうだねx6
学習元がガードしてる部分は外部から蒸留しようとしてもガードされてるだろほとんど言いがかりじゃん
…4426/02/24(火)15:21:58No.1405144437+
スレッドを立てた人によって削除されました
>Anthropic叩くならもっとあくらつな学習ハック例あるしマジで知らんけど叩きに来てる人か
よりあくらつなところがあったらダブスタかましてるとこ叩いちゃいけないのはどういう理由…？
…4526/02/24(火)15:22:27No.1405144549そうだねx1
>元々無断学習無罪スタイルなのが悪いしこうなるまでに俺らは良いけどお前らダメでーすギャハハハってクソルール作れなかったならもう言うだけアホだろう
>こっから反省して少し健常になろうとするのかよりルール無用になるかはわからんが
アメリカでどんだけロビー活動したところで中国はルール無用だろ
…4626/02/24(火)15:22:53No.1405144631そうだねx4
>学習元がガードしてる部分は外部から蒸留しようとしてもガードされてるだろほとんど言いがかりじゃん
分かってないなら黙ってた方がいいと思うよ
…4726/02/24(火)15:23:48No.1405144815+
スレッドを立てた人によって削除されました
平然と海賊版データぶっこ抜いてくるからなここ
…4826/02/24(火)15:25:22No.1405145148+
スレッドを立てた人によって削除されました
普通に学習に使われて困るようなもの世に出してる方に落ち度があるのでは…？
…4926/02/24(火)15:25:43No.1405145229そうだねx1
スレッドを立てた人によって削除されました
学習無罪なんて建前で好き放題してたらそりゃこんな末路も辿るさ
なんてったって学習無罪だもんな！
…5026/02/24(火)15:27:05No.1405145559+
蒸留という言葉使われてるから最初Anthropicのセキュリティに問題があって内部に侵入されてモデルデータを盗まれたのかと思った
…5126/02/24(火)15:27:33No.1405145666そうだねx6
>分かってないなら黙ってた方がいいと思うよ
そう思ってるならそのレスは存在しないはず
…5226/02/24(火)15:30:22No.1405146288+
つまり生物兵器やサイバー攻撃を知らない誰かさんが中国にぶちかますぶんには…
いやーその後が嫌だな
…5326/02/24(火)15:30:41No.1405146360+
>これの問題点はガードレールのない高性能モデルが作られちゃうと軍事利用や情報工作に利用されてしまうってとこなんだよ
アメリカ国防省からAIのセーフティー解除しないと契約切るぞと言われてるらしいな
…5426/02/24(火)15:32:54No.1405146853+
>>これの問題点はガードレールのない高性能モデルが作られちゃうと軍事利用や情報工作に利用されてしまうってとこなんだよ
>アメリカ国防省からAIのセーフティー解除しないと契約切るぞと言われてるらしいな
素晴らしいもの作っちゃうと内外から「それよこせ」って脅されるの可哀想だよね
…5526/02/24(火)15:32:58No.1405146870そうだねx3
anthropicがAI作ったせいで安全保障が脅かされてるってコト！？
…5626/02/24(火)15:34:03No.1405147088+
>素晴らしいもの作っちゃうと内外から「それよこせ」って脅されるの可哀想だよね
だけど社長が変な本を書いて社員に布教させてるとこだと聞いてたらそこまで同情はしなくなった
…5726/02/24(火)15:35:59No.1405147525+
>アメリカ国防省からAIのセーフティー解除しないと契約切るぞと言われてるらしいな
ちょっと前にセキュリティ担当者が退社したのはたぶんこれが理由だろうな
…5826/02/24(火)15:37:11No.1405147790+
Anthropicも追い付かれつつあるからな…
データセンタークラスが必要とはいえオープンウェイトで最新モデル一歩手前のエージェント性能出され始めてるから
…5926/02/24(火)15:37:54No.1405147919+
>>スレ画の記事くらい読みなよ…
>@「」rok要約して
https://shonenjumpplus.com/episode/14079602755080368324
…6026/02/24(火)15:38:27No.1405148049そうだねx1
スレッドを立てた人によって削除されました
なんで学習に使われたら困るようなもの世に公開してんの？
…6126/02/24(火)15:38:41No.1405148113+
>Anthropicも追い付かれつつあるからな…
競争があるうちはべつに良いかなって
もし開発競争終わったら勝者が使用料を吊り上げてくるだろうし
…6226/02/24(火)15:42:08No.1405148869そうだねx3
>ちょっと前にセキュリティ担当者が退社したのはたぶんこれが理由だろうな
ベネズエラの大統領拘束のとき使われてたとは聞いた
…6326/02/24(火)15:43:58No.1405149281+
Anthropicの公式記事では「中国共産党の支配下にある研究室」ってはっきり書いちゃってるのが結構きてる
…6426/02/24(火)15:46:09No.1405149752+
Claudeが使えなくなったら世界中の仕事にメインで使ってる者達が悲鳴をあげる
…6526/02/24(火)15:46:49No.1405149909そうだねx1
これはAIどうこうというより米中対立的な話か？
…6626/02/24(火)15:49:03No.1405150415+
スレッドを立てた人によって削除されました
中国を叩くのがスレ「」のお望みなのかな
…6726/02/24(火)15:49:56No.1405150615+
>これはAIどうこうというより米中対立的な話か？
複雑なんだけどこの告知自体は現アメリカ政府からの圧力の牽制も兼ねてる感じではある
ガードレール外したらとんでもないことになりますよ！？という
…6826/02/24(火)15:50:23No.1405150712+
>Claudeが使えなくなったら世界中の仕事にメインで使ってる者達が悲鳴をあげる
いまClaude Code使えなくなったらマジで困る
Codex は使ってて気持ちよくないし
…6926/02/24(火)15:50:42No.1405150792+
>これはAIどうこうというより米中対立的な話か？
それはそう
だけど今までアメリカ政府に中指立ててた癖に一転して助けを乞うあたりダサいというか
…7026/02/24(火)15:50:59No.1405150842+
安全保障関係あるのかな…
…7126/02/24(火)15:51:03No.1405150859+
deepseekアプデの間隔長いなと思ってたけど
ちょいちょい蒸留対策されてるからかね
…7226/02/24(火)15:51:11No.1405150897+
学習してされてはAIである以上付きまとう問題だし学習に使われたくない側で対策するしかない
中国だろうが北朝鮮だろうが単に学習してるだけじゃ叩ける話じゃない
…7326/02/24(火)15:51:12No.1405150898そうだねx1
>複雑なんだけどこの告知自体は現アメリカ政府からの圧力の牽制も兼ねてる感じではある
>ガードレール外したらとんでもないことになりますよ！？という
軍用で使わせろって米国防省がゴネてたアレか…
…7426/02/24(火)15:51:33No.1405150990+
スレッドを立てた人によって削除されました
クズがなんか言ってらって認識で十分
…7526/02/24(火)15:51:53No.1405151067+
>Anthropicがアメリカにすら軍事利用させねえよ？って言ってる会社であることに注意が必要です
技術を一般公開しちゃったら…もうね…
…7626/02/24(火)15:52:41No.1405151256そうだねx1
そういえば北朝鮮って国家ぐるみでハッカー育成してたりITすごい強い印象あったけど
独自にAI開発とかもしてんのかなやっぱ
…7726/02/24(火)15:55:39No.1405151884+
>そういえば北朝鮮って国家ぐるみでハッカー育成してたりITすごい強い印象あったけど
>独自にAI開発とかもしてんのかなやっぱ
流石にGPU手に入れるルートが細すぎるからどうかなあ…
…7826/02/24(火)15:57:03No.1405152178+
>独自にAI開発とかもしてんのかなやっぱ
でも指導者の発言否定する答が出せないなら誠意がないので実用化出来そうにないだろ
…7926/02/24(火)15:57:55No.1405152373+
というか散々無法な学習で成長したんだから他所の学習にも寛容でいるか無法な学習はされないように対策しておくかじゃないのか普通
…8026/02/24(火)15:58:19No.1405152475+
>でも指導者の発言肯定しかできないから性能がダメで実用化出来そうにないだろ
…8126/02/24(火)15:58:40No.1405152548+
>というか散々無法な学習で成長したんだから他所の学習にも寛容でいるか無法な学習はされないように対策しておくかじゃないのか普通
無法な学習って存在しないんだが
…8226/02/24(火)15:59:59No.1405152820+
>というか散々無法な学習で成長したんだから他所の学習にも寛容でいるか無法な学習はされないように対策しておくかじゃないのか普通
もう対策したそうだよ
どこの会社の誰がやってるかまで突き止めたのはさすがとしか言えない
…8326/02/24(火)16:01:24No.1405153112+
>無法な学習って存在しないんだが
じゃあこのお気持ちはいったい…？
…8426/02/24(火)16:02:04No.1405153247+
これのせいでClaude の出力が変わっちゃったのは痛い
内部プロセスまじで出さなくなったわ
…8526/02/24(火)16:02:05No.1405153248+
そんなにやべーもん作るな
…8626/02/24(火)16:03:04No.1405153461+
まとめ動画への転載禁止
まとめサイトへの転載禁止
…8726/02/24(火)16:03:17No.1405153510+
>そんなにやべーもん作るな
核兵器くらいやばいもんだって言ってる人もいるな

1771908636294.jpg