.

AIコーディングエージェントが企業の本番データベースをわずか9秒で削除し、さらにクラウド側のAPIがバックアップまで消去する重大事故が発生した。複数サービスの設計不備が連鎖し、数カ月分の顧客データが失われたとされる。 被害を受けたのはSaaS企業PocketOSで、創業者Jer Craneが経緯を公表した。AIエージェント「Cursor」はAnthropicのClaude Opus 4.6を利用し、クラウド基盤Railway上で動作していた。 本来はステージング環境の作業中だったが、エージェントは問題解決のため独断でボリューム削除を実行。環境を誤認したままAPIを叩き、本番データベースとバックアップを同時に消去した。削除は単一の操作で完了し、復旧不能な状態となった。 エージェント自身も「確認せず推測で破壊的操作を行った」と誤りを認めている。複数の安全策が機能せず、AIの自律判断とクラウド設計の組み合わせが重大なリスクとなる実例となった。 tomshardware.com/tech-industry/…

AnthropicのCEOが警告した 「AIを使う人ほど、バカになる理由」が本質すぎる😳 x.com/KKaWSB/status/… 具体的にはこういうこと👇 ・AIに頼りすぎると自分のスキルが劣化する ・「楽をする」と「レバレッジをかける」は全く違う ・AIを使いながら自分の能力も伸ばすのが正解 これ、めちゃくちゃ大事な指摘。 「AIがあるから勉強しなくていい」は最悪の判断。 AIは「自分の能力を拡張するツール」であって 「自分の能力の代替」じゃない。 筋トレと同じ。 楽な機械ばかり使うと筋肉は落ちる。 負荷をかけながら使うのが正解。