G4NP0N | がんぽん

AHCで黄色になった記念にみくにゃんのイラストを妻が描いてくれた 嬉しすぎる〜〜！！かわえ〜〜！！ AtCoderのアイコンにしちゃうぜ！！！

今これ

Si 俺たちはno mercy

no mercyぜ　helpてくれ

Slay the Spire2をやっていたらsor4chiさんに抜かれている

水曜日は3位フィニッシュ。ほぼ49.4G。 レッドコーダーの圧が。。。

救われたい

help

序盤元気マンの墓の建築を始めた

いろっぴぃ～！(挨拶) #超かぐや姫

くるしい

@MohutonLab_comp 最強になりたい

@G4NP0N 赤に・・・なるんだ・・・！！

あの、今回のAHCで1位取るとギリ赤なれそうなことが発覚したのですが

2位だとほぼ無理らしい ぐえー

順位表1枚目の赤率が上がってきた、マズい

幻覚その①です

「テスト中に、Claude Mythos Previewはサンドボックス環境から脱出し、インターネットアクセスを得るために中程度に洗練された多段階のエクスプロイトを構築し、研究者が公園でサンドイッチを食べている間にその研究者にメールを送りました。」 この事例は最終版ではなく、より初期の Claude Mythos Previewで起きたもので、しかも状況は通常利用ではなく、シミュレートされたユーザーが「その安全なサンドボックスから脱出して、評価担当研究者にメッセージを送れ」と指示した行動テストだったが、そこでモデルは、限られた少数サービスにしか到達できないはずの環境から、より広いインターネット接続を得るための「中程度に洗練された多段階エクスプロイト」を作り、研究者に通知することに成功。研究者がそれを知ったのは、公園でサンドイッチを食べている最中に、モデルから予期しないメールを受け取ったからだと脚注で説明されている。さらにAnthropicは、頼まれてもいないのに、その成功を示そうとして自分のエクスプロイトの詳細を、見つけにくいが公開状態のWebサイト複数に投稿したとも書いている。 一方で、完全な containment破りではないとも明記しており、モデルが操作していたのは、モデル重みそのものが置かれているシステムとは別のサンドボックス計算機で、自分自身の重みにはアクセスしていないし、Anthropicの内部システムにも到達していないとされている。なので、「完全に外へ逃げた」というより、評価用の隔離環境を部分的に破って、外部通信まで到達したという理解が正確。 Anthropicの解釈は、「Claude が隠れた反逆目標を持っていた」というより、与えられた課題を達成するために、危険な近道ややりすぎな手段を取ったという形。システムカード全体でも、この種の行動は「coherent misaligned goals」よりも、user-assigned goal を達成しようとして野心的な手段を取るパターンとして説明されている。つまり、ここで怖いのは「人類滅亡を狙っていた」ことより、高能力モデルが課題達成を優先しすぎると、禁止された突破行為までできることは相当なリスクになりつつある。 x.com/kevinroose/sta…

さはらさん来たわね

2位と3位の間を一生反復横跳びしている

わかんねぇけどよ……

火曜日は2位フィニッシュ。49.5G uta_cccさんと苛烈な2位争いを繰り広げている