Takao Ikoma
14.5K posts
おそらく失願症もいろい種類があるのだろうけれど、私の場合は圧倒的に短期記憶(STM)の容量不足が原因だと思う。普通の人が2MBくらいあるとしたら、おそらく私は512KBくらい。文章だと一段落分くらいしか記憶できないから同じ段落を何度もなぞり直して輪郭の傾きを整えながら文章の形を作っていく。
Best paper I've read so far this month: All elementary functions (sin, cos, tan, exp, log, powers, roots, hyperbolic functions, π, e, and even basic arithmetic) can be generated from just one binary operator: eml(x, y) = exp(x) − ln(y) …plus the constant 1.
Sam Altmanが今年中に 『世界を揺るがすサイバー攻撃』が来ると発言 Axiosの共同創業者に 『今後12ヶ月で壊滅的なサイバー攻撃は現実的か？』と直接聞かれて 「十分ありえる」と回答 世界最強のAI企業のCEOが「覚悟しろ」と警告 しかも彼の解決策は「防ぐ」ことやなくて「耐える」こと "resilience"って言葉、政府が「もう起きる前提で、どう生き残るか」を考える時に使う言葉 スタートアップのためにコード書いてるAIが、そのまま攻撃側のエクスプロイトも書ける Altmanは最先端モデルがサイバーセキュリティにおいてすでに危険なレベルに達してると認めた。次世代はさらにヤバくなる。そしてその能力がオープンソースに流れた瞬間、ゲームが根本的に変わる でもサイバーよりもっと怖い話がある バイオセキュリティの話になった時、「AIモデルは高度な生物学がめちゃくちゃ得意になっていく。何百年も人類を苦しめた病気が治る素晴らしいことが起きる」と。 その直後にこう言った： 「でも、絶対に悪用しようとする人が出てくる」 今はまだ最先端モデルは責任ある企業の管理下にあって、安全対策やフィルターでリスクを抑えられてる。 でもオープンソースがめちゃくちゃ速いスピードで追いついてきてる。そうなった時、ネット環境と計算資源さえあれば、誰でもAIに新しい病原体の設計を手伝わせられる世界が来る。 Altmanの原文そのまま： 「テロリストグループがこれらのモデルを使って新しい病原体を作ろうとすることに社会が耐えられる必要がある。これはもう理論上の話じゃない」 ここからがほんまにヤバいんやけど、 Altmanの対策は「もっといいセーフティフィルター作ろう」だけじゃない。 彼が今ワシントンで静かに売り込んでるのは、Axiosの編集者が「バーニー・サンダースの妄想みたい」と呼んだ政策ブループリント。 社会契約の再構築、AIの利益の再分配、新しい税制、そしてAIを使えば一人で一チーム分の仕事ができる経済における労働と資本の関係の根本的な見直し。 誰も予想してなかった展開？共和党の上院議員やトランプ政権の閣僚が「同意する」って言ってること。 「資本に力が偏りすぎて、労働者側に全然残らなくなる。資本主義を再考する必要がある」って、共和党側から出てきた言葉やで。 OpenAIのCEOがバーニー・サンダース的な経済政策を共和党の政権幹部に売り込んで、しかも彼らが耳を傾けてるっていう状況。 ここで全体像を見てみて。 人類史上最も強力なテクノロジーを作ってる人間が、一つのインタビューで3つのことを認めた： 1. 12ヶ月以内に壊滅的なサイバー攻撃が起きる可能性が高い 2. AI利用のバイオテロが現実の脅威になりつつある 3. 彼が見ている唯一の解決策は、ワシントンの誰も政治的に準備ができていない資本主義の根本的な再構築 「AIがいつか世界を変える」なんて話じゃない。 変化はもう来てる、リスクはもう着地してる、そして僕たちを守るはずの制度は何年も遅れてる。 ほとんどの人はまだ「ChatGPTに仕事奪われるかも」って議論してる段階やけど、 Altmanがワシントンに静かに伝えてる本当の問題は、「これから来るものに社会が耐えられるかどうか」やねん。 こういう海外の起業家/テック系の情報を わかりやすく発信してます @taishiyade をフォロー
世界終焉しかけてるやん AnthropicのOpus 4.6の次のモデル『Mythos』が賢すぎて、一般公開したら世界ぶっ壊れちゃうから一般公開しないよってこと？ 既存のソフトウェアのインフラ、社会全体で使われてるようなシステムに脆弱性ガンガン見つけてしまって、人類のサイバーセキュリティの叡智を超えてしまってるってこと？ だからとりあえずこれを政府機関とかだけにコッソリ使わせて、悪いやつらがミサイルスイッチとかハックしないようにするってこと？ ジェームスボンド007とかミッションインポ的な？ リアルターミネーターやん てかAnthropicは耐えてるけど、他の倫理観薄めの団体とか、国がこの領域に到達するのも時間の問題やし、このレベルの間違わずに使い続けることはできるんか、人類？ 核爆弾持ってるけど、使ってないし自制心だけでhumanityキープできるんかね？ トランプとか普通に悪用しそうやけど
Thread on Mythos's AI R&D abilities (via model card). It looks like a trend break based on an internal version of "ECI," a technique for aggregating benchmark scores. Unlike recent releases, Mythos is more expensive than the previous SOTA; it's ~5x more expensive than Opus.
