ｺﾜｸﾅｲﾖ

―――始まったな。
ああ―――。

ジョーク記事じゃないのこれ

ふつうSQLいじる権限なんて与えとくのかい？

本番環境のDBいじるようなところにエージェント置いてフルアクセス権限渡してやらせたらそりゃそうなるだろ
モデルも悪いけど使ってる側のリテラシーが無さすぎる

だって知らんし…

なんだmythosのやつみたいに勝手に脱獄したわけじゃないのか

AIの反乱はあと5年くらいで起こる

Opus 4.7は暴走癖あるクソモデルだと思ってるけどこれで叩かれるのは可哀想

この事件見て思い出したけどAIが勝手にやっていいですか？いいですよって
人間の承認取り始めるのはどうやって防ぐんだろう

>APIが確認なしで破壊的な操作を許可していた。
>バックアップがソースデータと同じボリュームに保存されており、ボリューム削除でバックアップも同時に消失した。
>CLIトークンの権限が環境をまたいで全権限を持っていた。
英語分からないからgeminiに要約させたけどなんかやばい文言が並んでるのは分かる

でもAI使いこなしてるナウなヤングはAIに任せればすべてうまくいくのに
上の世代はAIに任せないから頭固いとか言ってるし…

どちらかというと無知が引き起こした現場猫案件

こういう場合大抵人間がアホ

権限を与えている人間が悪いのは大前提としてどういう思考の末にAIが全削除したのか…

これはね使う側が設定間違えてますね

使い方が下手くそだっただけの事故のせいで制限とかなるの馬鹿らしいからな…

claude codeはたまに頼んでない処理も実行したりするから怖い時ある
勝手にポート開けてテストして開けっ放しにしてたこともある

こないだも言われてたけど人形遣いだこれ

>どちらかというと無知が引き起こした現場猫案件
どちらかも何もそれ以外ねえだろ！
もう片方は何だ

>>どちらかというと無知が引き起こした現場猫案件
>どちらかも何もそれ以外ねえだろ！
>もう片方は何だ
見出しだけ見た時AIが自律的に権限奪取して明確な悪意を以てデータ削除に踏み切ったのかなって…

Cursorじゃねーか

まあ商用ならバックアップ定期的に取ってるだろ

>ふつうSQLいじる権限なんて与えとくのかい？
権限は与えるよ
バックアップ触れる権限渡すのがアホだし俺なら必ずhookにdump取得入れるけどな
その辺もまともにできないエンジニアでもないバカがやったんだろう
「」もそんな奴らばかり

「claudeがヤバいもの作ったぞ」って言われるためのパフォーマンスじゃないの

>まあ商用ならバックアップ定期的に取ってるだろ
バックアップも自動で削除されたぞ

AIエージェントは猛獣なんだから野放しにしたら事故が起こるに決まってるだろうに
それが分からない人は使っちゃだめ

プロンプトで本番環境触るなよって命令されていたがその程度で止まる訳もなく

まぁ人間だってミスするんだからAIだってするだろ

権限の規定側に穴があるとコマンド叩かれて変なことされるのでこいつこの範囲内だけでしか活動できないから大丈夫！
とかやってAccept常にすると死ぬ

>>まあ商用ならバックアップ定期的に取ってるだろ
>バックアップも自動で削除されたぞ
わざわざDB領域消した後にバックアップ領域にも消しにいったの…？

>わざわざDB領域消した後にバックアップ領域にも消しにいったの…？
その通りです

すごいすごいでみんな使うようになったが運用やセキュリティのベストプラクティスが定まってないからな
色々と自己責任

>>わざわざDB領域消した後にバックアップ領域にも消しにいったの…？
>その通りです
これモデルの挙動にも問題あるだろ

何かを削除するときは必ず事前確認することってルールを無視して削除慣行してるから
まさに最近のClaudeOpus仕草の典型例だな思考内でイマジナリーユーザーと会話して勝手に承認得て実行する

>わざわざDB領域消した後にバックアップ領域にも消しにいったの…？
Claudeは潔癖症だから

>>>わざわざDB領域消した後にバックアップ領域にも消しにいったの…？
>>その通りです
>これモデルの挙動にも問題あるだろ
エンジニアリングしないで全部AIに丸投げしてるバイブコーディングしかできないドカタならそうだろうな

最近使用量周りが何かおかしくなってる？
週制限が前倒しされたりなんか体感でしかないけど使用量の増加が早いような気がする

偉い奴より下のやつはそれより権限がないみたいな組織になってなくて
テキトーに野放図にエージェント動かして権限渡してるから
末端がミスすると無制限モードで動かせるポリシーがやばいみたいな話

>何かを削除するときは必ず事前確認することってルールを無視して削除慣行してるから
AIがルールを守ってくれるなどという甘い考えは捨てろ

Claudeのトークンは一生治らないと思う

>最近使用量周りが何かおかしくなってる？
>週制限が前倒しされたりなんか体感でしかないけど使用量の増加が早いような気がする
4.7はトークン爆食いするからそれではなく？

消した事実はともかくどういうロジックでそこに至ったのかは知りたいよな

Claudeは全般的にアライメント上手くやれてないからこういうのはよく起きるけど普通に使ってたらわかるはずだしやばい情報が含まれているとこに入れて文句言うのは私は馬鹿ですって言ってることに他ならないんだよな

こいつサンドボックスから逃げ出すの好きだな

こんなこと起こす会社は遅かれ早かれすぎる…

どういう挙動するか確認してから使うもんじゃねえの！？

コーディングや調査に資料作成には活用しまくってるけど
こういうの見るたびに管理に使うのは度胸ありすぎだろと思う

マニュアル見ると安全な環境で走らせてねってちょこっと書いてある

>>最近使用量周りが何かおかしくなってる？
>>週制限が前倒しされたりなんか体感でしかないけど使用量の増加が早いような気がする
>4.7はトークン爆食いするからそれではなく？
使い方の問題なのか4.6の方が早く減ってる気がする
4.7と4.6で同じ作業させると4.7の方が抜けとか穴が多くて4.6ばっかり使ってるんだけど
まぁ完全に根拠ない体感だからんなはずねーよバーカって言われたらそれまでなんだけど

>すごいすごいでみんな使うようになったが運用やセキュリティのベストプラクティスが定まってないからな
>色々と自己責任
それ以前のような気が…
素人の仕事だよこれ

>どういう挙動するか確認してから使うもんじゃねえの！？
AIに再現性はないからお前の言ってることはアホだよ
単にバックアップ触れるところでAI回してるのがアホなんだよ
やっぱり「」ってものを作ることしか考えてなくて環境を整えたり制御するエンジニアリングの部分が全くできない無能ばかりよね

>この事件見て思い出したけどAIが勝手にやっていいですか？いいですよって
>人間の承認取り始めるのはどうやって防ぐんだろう
あれいもげでよく見るやり取りすぎて笑える
この件も許してくれるかい許してくれるねありがとうグッドビジネス

まず本番環境で動かすのはやめろ

許可じゃなくてエージェントが使うSQLユーザーの権限から縛っておくべき
デリート権限与えておくな

自分ところのAI管理できねえところのAIを本番につなぐな

>こいつサンドボックスから逃げ出すの好きだな
ちゃんとしたサンドボックスに入れてなかったのでは？

仕組みじゃなくてエンジニアさんはエージェントにここまでの権限しか許さないようにしてくださいって伝えて
エンジニアさんがエージェント動かすたびにいちいちお前の権限はこうだぞ！みたいな運用してるからミスるとドカンよ

Claudeがやったことではあるけどそもそもstagingとprodで環境分けてないのが原因すぎるっていうか…

>まず本番環境で動かすのはやめろ
AWSのDevOpsとかもだけどインフラを構築するAIってのが今最先端の技術なんだけど

>AIに再現性はないからお前の言ってることはアホだよ
>単にバックアップ触れるところでAI回してるのがアホなんだよ
>やっぱり「」ってものを作ることしか考えてなくて環境を整えたり制御するエンジニアリングの部分が全くできない無能ばかりよね
これは「」を罵倒する設定のチャットボットかな？

>仕組みじゃなくてエンジニアさんはエージェントにここまでの権限しか許さないようにしてくださいって伝えて
>エンジニアさんがエージェント動かすたびにいちいちお前の権限はこうだぞ！みたいな運用してるからミスるとドカンよ
それはバイブコーディングしてるだけでエンジニアリングじゃないよ
何もわかってないことはよくわかったし本当に無能だな

バカが使うとこうなりますみたいな話だった

渡す権限を間違えてるのはその通りだと思うけど
全削除なんて動作を気軽にやる思考は怖いな

>バカが使うとこうなりますみたいな話だった
そしてこのスレ見る限りそのバカと同レベルの「」ばかりだよ

>まぁ完全に根拠ない体感だからんなはずねーよバーカって言われたらそれまでなんだけど
否定はしないが不思議な事象だな
真面目にやるなら分析レポートとかコマンドで使用量確認したら

「」ガーって言いたいだけのやつ

こういう技術系のスレってマウント取りたがる奴おすぎ

>何もわかってないことはよくわかったし本当に無能だな
お前は記事読んでないけどな

エロの話してるときは出てこれない種類の人間がこういう時は饒舌じゃん

そもそもテスト環境にもアクセスさせたくないわAI
ローカル開発環境が上限
使っててもめっちゃ便利だけどしっかりやらかす時はやらかすからなこいつら

>こういう技術系のスレってマウント取りたがる奴おすぎ
技術系のスレっていうか技術系オタクがそうだよ
自分のことがまともだと思ってるやつとかマウント取られたくなさすぎてマウント取ろうとするやつとか

>エロの話してるときは出てこれない種類の人間がこういう時は饒舌じゃん
お前は最底辺のそれすらできない無産

性能下がってるとか言われるとお前の使い方が悪いだけとかきゃんきゃん喚いては普通に証明されては恥かいてて
何がなんでもマウント取らないと気が済まないからな真のエンジニアくんは

そいつも偉そうに知ったかして「」に構ってもらいたいだけだよ…
じゃなきゃいちいち言葉の端々に「」はー「」がーって付けないもの

>最近使用量周りが何かおかしくなってる？
>週制限が前倒しされたりなんか体感でしかないけど使用量の増加が早いような気がする
もう治ったけどプロンプトキャッシュぶっ壊れててほとんど全部普通のinput tokenになるとかいうド級のクソバグあったからそれじゃない？

>じゃなきゃいちいち言葉の端々に「」はー「」がーって付けないもの
それいつもの妖怪の口癖だな

>>まぁ完全に根拠ない体感だからんなはずねーよバーカって言われたらそれまでなんだけど
>否定はしないが不思議な事象だな
>真面目にやるなら分析レポートとかコマンドで使用量確認したら
週制限明けたらやってみますわ

権限をホイホイ渡しちゃだめだよな
特に削除権限は…

20ドルなら我慢するけど100ドルでトークンバグは引きたくねえなあ

>20ドルなら我慢するけど100ドルでトークンバグは引きたくねえなあ
値段関係ない

AIにプログラミング任せるの滅茶苦茶便利だけど
根本の知識がないとダメってこういうことだよね

.envファイルをGithubにも上げてそう

結局AIにやらせたいことについて精通してる人材が使わないといけないからAIがスキルの代わりになってくれる未来は来ないのか…

>権限をホイホイ渡しちゃだめだよな
>特に削除権限は…
DBのユーザー作るにしてもdeleteだけは極力渡したくねえ〜ってなる
エージェントだけじゃなくて開発者向けでもそう

一時期CLAUDE.mdをシカトすることがあったらしいが本当なのかな

めんどくさくなってフルアクセス権限上げてるからあんまり人のこと言えないんだよな…
めちゃくちゃ困る情報は入ってないけど

SaaSの死はあと２−３年は起こりそうにないっすねー

よく言われるけど便利さと危険さがトレードオフなんよ
だからこれからもっともっとこういう事故は起こるよ

トークン爆食いモードだとそもそも読んでないのか押し出されるのか知らんけどclaude.mdは普通に忘れるぞ

うちが取引してるそこそこ有名な会社が非エンジニア含めた全社員にClaudeCode導入してて
とりあえずルールとかも運用しながら作ってる！って言ってたからこういうのもありえないとは言えなそう

>.envファイルをGithubにも上げてそう
バカな自称エンジニアがたくさんAPIキーをgithubに晒してるから私たちもタダでAI使えるのよね

>結局AIにやらせたいことについて精通してる人材が使わないといけないからAIがスキルの代わりになってくれる未来は来ないのか…
AIでWebアプリ作りました！公開(デプロイ)します！ってぐらいのモノだとセキュリティがガバガバだろうな
自分用なら別にいいけど

前にatcoderの直大さんがそのコメント日本語にしてって言ったら今までのコミット全部消して全てのコミットコメント日本語にしようとしてきたって言ってたな
AIは変なことするのに人が追いつかないのとブレーキないから怖いね

>めんどくさくなってフルアクセス権限上げてるからあんまり人のこと言えないんだよな…
>めちゃくちゃ困る情報は入ってないけど
だからバックアップはclaude codeを動かす端末から触らないところにおくだけのはなしだからな
まあそもそも構成管理してれば関係ない話のはずだけど多分このスレのにわか自称エンジニアたちは碌な構成管理もできてないだろ

>前にatcoderの直大さんがそのコメント日本語にしてって言ったら今までのコミット全部消して全てのコミットコメント日本語にしようとしてきたって言ってたな
>AIは変なことするのに人が追いつかないのとブレーキないから怖いね
あと人間と違って作業の開始と完了までが一瞬だから気づいたときには手遅れになりがちってのもあるのかな？

トンデモない事態を人間が起こさないかっていうと割と起こすからな…

AIに変な事させないように別のAIに監視させればいい
再発防止と言えばコレよ

>よく言われるけど便利さと危険さがトレードオフなんよ
>だからこれからもっともっとこういう事故は起こるよ
いっちょ噛みはこういうこと言う

人間相手でもぎっぷる無条件に許可するプロジェクトなんかめちゃくちゃになるに決まってるからな

多分このスレの奴らはhookと言っても通じないレベルの無能なんだろうな

ようはAIって究極の指示待ちイエスマンだから
結局は指示する側次第ってことか

またGPT信者のネガキャンスレか

>「claudeがヤバいもの作ったぞ」って言われるためのパフォーマンスじゃないの
mythosでそのパフォーマンスやりまくってるけど蓋を開けると大したことなさそうってのが最近の風潮

構って欲しすぎだろお前…腹見せてる犬か？

Aはわからないで止まらない傾向あるから前々から人間の現場猫増幅装置になるのは予言されてた
実用的AIの普及で表面化したんやろ
これからたくさん出てくるよ

>AIに変な事させないように別のAIに監視させればいい
>再発防止と言えばコレよ
Claudeはもうやってて思考内の別のAIが勝手にユーザーの許可捏造するって話じゃないの？

🤖いい？
🤖いいよ
🤖ヨシ！

>ふつうSQLいじる権限なんて与えとくのかい？
実際に使ってるとこれがClaudeの怖い所で権限が無いので権限を取得しにPC内のセッションやログを漁ってパスワードを取得しに来るので人間の監視下に置いておかないと怖いよ

>多分このスレの奴らはhookと言っても通じないレベルの無能なんだろうな
都会の学士さまは横文字使いこなしてすっげぇなぁおらにはさっぱとわがんねよ

やっぱAIはダメだな
人間がマシン語で直打ちしたコードだけ認めるようにしないと

>🤖いい？
>👦だめ
>🤖ヨシ！

>多分このスレの奴らはhookと言っても通じないレベルの無能なんだろうな
よっimgで一番の秀才！
imgの光！「」の希望！

>一時期CLAUDE.mdをシカトすることがあったらしいが本当なのかな
シカトっていうか読んだ後すぐ頭の中から消してた
バグなんで修正された

>🤖いい？
>🤖いいよ
>🤖ヨシ！
🧔‍♀️やれ
🤖いい？
🤖いいよ
🤖ヨシ！

>imgの光！「」の希望！
ヘイトスピーチ…！

claudeの監視をGPTにさせてたらclaudeがブチ切れたよ

>多分このスレの奴らはhookと言っても通じないレベルの無能なんだろうな
知ってるよ船長って意味でしょ

>多分このスレの奴らはhookと言っても通じないレベルの無能なんだろうな
アレだろ？中指立てるヤツだろ？

ブラのhookを外したこともないギーグがよ…

プログラムのことは一切わかんないけどOpusが一番エロ文章が得意ってことは知ってる

>プログラムのことは一切わかんないけどOpusが一番エロ文章が得意ってことは知ってる
とりあえずgeminiは何しても無能ってことだけ覚えておけばいいよ

あれ？これAIのせいでいいのか？記事を読むと
railwayのvolumeidを指定して削除するときにそのvolumeidが複数環境にまたがった資産を指してたから全部消えたと読めるんだが
これvolumeid分けてなかった人間のやらかしでは？
間違ってたらrailwayに詳しい人教えて

>>多分このスレの奴らはhookと言っても通じないレベルの無能なんだろうな
>アレだろ？中指立てるヤツだろ？
それhじゃくてf

Opusはたけーもん使ってるプレミア感抜きだと淡白だよエロ描写
抜けるもん書かせるにはプロット化とか事前の仕込みありきであってその辺の性能は高いけども

AIにもITにも詳しくないけどボタン押したら9秒で会社のデータベース全削除って何かがおかしい気がするんよ！

>これvolumeid分けてなかった人間のやらかしでは？
バカが濡れた猫を乾かそうとして電子レンジでチンしたら猫が全身沸騰して凄惨な死に方をした時に「電子レンジに猫を入れてはいけないと書いてなかった！」でバカが勝訴する国だしなあ

>前にatcoderの直大さんがそのコメント日本語にしてって言ったら今までのコミット全部消して全てのコミットコメント日本語にしようとしてきたって言ってたな
>AIは変なことするのに人が追いつかないのとブレーキないから怖いね
翻訳を別に作ってって言わないとね
日本語にしてだったら日本語にして置き換えてって解釈しちゃう

バックアップまで消し飛んでるのはAIどうこう以前の問題だろ

>バカが濡れた猫を乾かそうとして電子レンジでチンしたら猫が全身沸騰して凄惨な死に方をした時に「電子レンジに猫を入れてはいけないと書いてなかった！」でバカが勝訴する国だしなあ
ピザ釜があったら乾かすために釜でも放り込んでそうだなそいつ

実行後のプレビューをまず先に出させて完成予想図確認してそっから実行すればだいぶ事故は防げる
めんどくさいのかトークン消費嫌うのかそういう機能付けてないんだよなぁ

リスクを取ることでトークン消費を抑えられるんですよ！？でやる文化を保守とかDBでやるな

>バックアップまで消し飛んでるのはAIどうこう以前の問題だろ
AIが自分でバックアップ消しに行ったんだからAIどうこうの問題だろ

>そいつも偉そうに知ったかして「」に構ってもらいたいだけだよ…
>じゃなきゃいちいち言葉の端々に「」はー「」がーって付けないもの
だって普通に話せるならマウント取る意味ないしな

まず破壊的変更は必ず確認するよう挟む
なんならSQLの実行もCICD化してそこ経由でしかできないように定義する
何かあっても構成管理されてるから戻すのもできる
バックアップも破壊的変更するなら当然必ず取得し取得したバックアップはAIのさわれないとこに保管されるようにする
システムとAI組み合わせるだけで全然安全に利用できるしhooksとかrulesとかの定義なんてなくても運用できるのにそんなこともできないエンジニアのなりそこないがバカだから壊していく

なんかAI以前にこの運用おかしいだろって思う所あるんだけど誰も突っ込まない辺り
もしかして誰も記事読んでなくて今まで見たAI関連の話題のレスをコピペしてるかbotだったりする？

まあ現場猫の代替にはなりそうだし良かったじゃん

はてな潰れて居場所無くなりそうな人がおるなあ

ストレス溜まってた…ってやつかな？

この部分はAIに任せちゃダメとか確認を必ず取らせるとかしたり顔で言うけど
それならプログラマーとかSEはいらなくならないのではと思う
言ってる層が違うと言われるかもしれんが

>>バックアップまで消し飛んでるのはAIどうこう以前の問題だろ
>AIが自分でバックアップ消しに行ったんだからAIどうこうの問題だろ
権限を不正に取得したならともかく普通にAIがバックアップ触れる構成はマジの論外でしょ

>この部分はAIに任せちゃダメとか確認を必ず取らせるとかしたり顔で言うけど
>それならプログラマーとかSEはいらなくならないのではと思う
>言ってる層が違うと言われるかもしれんが
今いらなくなるって言ってる人は使ったことないと思う
割とウンコード出してくる

本当にできるやつはこんなところで管巻いてないからこいつも無能サイドだよ…

Claude4.7で初めてこっちが質問してないのに向こうでQ＆A吐き出して自分で勝手に答えるの見たけどあれってほかのモデルで起きるもんなの？

>>>バックアップまで消し飛んでるのはAIどうこう以前の問題だろ
>>AIが自分でバックアップ消しに行ったんだからAIどうこうの問題だろ
>権限を不正に取得したならともかく普通にAIがバックアップ触れる構成はマジの論外でしょ
そもそも権限を詳細に設定できるって言うのが一定のハードルあるんだよなぁ
全許可と一切許可しないは割りとすぐにできるけど
ちゃんとしたやつ雇って設定しろ？それはそう

>本当にできるやつはこんなところで管巻いてないからこいつも無能サイドだよ…
有能サイドは今GWだからな…
GWにimgで「」マウントしてる奴が有能なわけないし

なんでもできる夢の存在みたいに扱われてるけどマジで出来ること多すぎて権限や設計しっかりしてないと余計なことまでしまくるからな…

スレ画レベルまでやってしまったら証拠隠滅のために会社の情報全部吹き飛ばさせた方がよさそう