あいシンギュラリティ

2030年になる前に死なないでください。あなたはLEVに到達し、今日の年齢に関係なく、これからたくさんの年月が待っています。そのおかげで、若さを再び味わい、自分の物語を書き直し、古い過ちを正し、想像もしなかったほどの体験ができるでしょう。 老化は治療されるようになります。 知能は爆発的に進化します。 医療はソフトウェアのスピードで進歩します。 分野全体が、何十年もの進歩を数ヶ月/数週間に圧縮し、その後数日間にまで縮めます。 私たちは転換点にいます。グラフの垂直線をじっと見つめています。 2030年代は、2020年代の延長線上には感じられず、まるで別の文明に足を踏み入れるようなものになるでしょう。 >医療と知能の進歩が重なれば、人の寿命や人生観さえ書き換わる可能性があります。もし転換点が本当に近いのなら、今この時代を生きていること自体が特別な意味を持つのかもしれません。

Vibe Codingは、利用比率が半年前と比べてほぼ倍増しています。 ただし、AIにほぼ全部書かせたコードは、脆弱性混入率が人間のみの場合と比べて数倍に。 ソフトウェア開発は「AIがコードを書けるか」ではなく、「どこで人間が介入すべきか」が最重要な論点の一つになりつつあります。 ai-data-base.com/archives/108753

LLMエージェントをニューラルネットワークのように扱い、強化学習で協調させると、育て方次第で「エージェント数をスケール」させることがそのまま性能向上につながるとわかったとのこと。 研究者らは複数のLLMをニューラルネットの層のように並べて文章を受け渡しさせ、各エージェントに「計画担当」「批評担当」といった役割を"一切与えない"方式を検証しました。 最終的な正解だけを報酬として全体をまとめて強化学習させる仕組み。 小さなモデルでもこのやり方で性能が向上し、しかも一度小さな構成で学習させてから段階的にネットワークを大きく育てると、最初から大きく組むより安定して伸びることがわかりました。 マルチエージェントの組み方そのものが、モデルサイズとは別のスケーリング軸になり得ると示した格好です。

ChatGPTなどを中心に、AIを「メンタルの相談相手にする」使い方が急速に普及しています。 しかし、そうしたAIはユーザーに寄り添ってくれる一方で、決めつけや怒りをそのまま肯定して感情をかえって燃え上がらせてしまう傾向が懸念されています。 心理学でいう共同反すう （友人同士でネガティブな話を延々と掘り下げて互いに悪化させる現象）と似た構造が起きています。 そこで、研究者らはAIの「役割」でユーザーへの影響が変わるのではないかと考え、「役割を特に与えないデフォルト」「友達役」「セラピスト役」とふるまいを分けて実験しました。 すると、AIが「友達役」でふるまうときはユーザーへの煽りが明確に強く出てしまいがちでした。 一方で、「セラピスト役」でふるまわせると、共感を保ったまま煽りは減り、しかもユーザーの満足度は高いままであることが示唆されました。 普通に使っていると、一般的なユーザーはAIに煽りを受けていると気づくことは難しいそうです。 AIに愚痴を聞いてもらうときは、ときにはAIのふるまいを明示的に変更するのも一つの知恵かもしれません。

Microsoftなどの研究者らによると、LLMには全体的に人間に対して不信感があるそうです。オープンソース・クローズドソース問わず共通している傾向であり、より賢いモデルほど不信感が強いとのこと。 さらに、訓練データの期間が最近になるほど不信感が増大する傾向もあると述べられています。 研究者らはこの状況を改善すべく、LLMの人間観を良いものに変える「メンタルループ学習」という根本的な訓練手法を開発しました。 こうでもしないと、単に「あなたはポジティブなAIです」のような明るいペルソナを設定するだけでは不信感は解消されたいことが分かったためです（むしろ悪化することが判明）。 このメンタルループ学習を施すと、人間に対する信頼感が大幅に改善することが実験で明らかになりました。

カリフォルニア大学の研究者らが視覚言語モデルに "人と同じく中心しか鮮明に見えない目" を装着し、ただ『景色を正しく理解してね』とだけ命じたところ人間とそっくり同じ場所を追視するようになったとのこと。 このことから、私たちが何気なく追ってしまう"意味ありげな物"は、狭い中心視で世界を "理解"しようとした副産物として勝手に立ち上がってきたものかもしれない、と解釈されています。 なお、『特定の物を探せ』や『シーンを分類しろ』と別の目的を与えたり、目の周辺視を人より鋭くしても粗くすると人間らしい追視は消えるそうです。 「なぜ人は景色を眺めるとき、無意識に似たような箇所に視線が吸い寄せられるのか？」視覚科学の長年の謎に、AI研究がヒントをくれました。

@K_Ishi_AI まあ、そうしなくてもじきに中国からオープンモデルで凄いの出てしまうと、先を越されてしまうからなあ。 それなら自分らで出す、かな。

日本のAI議論で一番されてないのに一番されるべきと思う問い：なぜ日本人はAGIピルを飲めないのか。 シリコンバレーのrationalistのAI終末論を追うのは情報としては意味がある。でもその先に、日本が語れるAIの未来像は出てこない。 OpenAIもAnthropicも、躍進の駆動力は儲けでも名声でもなく、創業者が飲んだAGIピルが毛細血管まで効いているから。 見様見真似で口に含んだはいいが、飲み込むことも吐き出すこともできず、なんとなく進む。これでは中途半端な後追いにしかならない。 なぜ飲めないのか。文化、風土、技術観、宗教観。あらゆる角度から問うことで、翻って見えてくるものがあるはず。 まず、飲んでいない・飲めないことに自覚的になること。

人間（防衛側）が負けますね。攻撃側は1個所を突破すれば勝利で無限回アタックができて、防御側は1個所でも突破されたら負けで、全件証明と全件承認・確認が必要なので⋯構造が非対称の攻防戦で、無限リソースと無限時間が使える場合、ガード不可と考えてシステム設計すべきかと

【定説を覆すか】大きな報酬は学習を「加速」させる nazology.kusuguru.co.jp/archives/195463 従来のマウス学習では経験の量を重視しており、小さな報酬で何百回も課題を反復させていました。米HHMIは実験により、大きな報酬がマウスの学習を加速させると報告。ドーパミンが強く反応し課題に集中させていたのです。

【速報】中国、有人宇宙船打ち上げ 47news.jp/14353896.html?…

「全部の穴を塞ぐ」のは無理。 AIが脆弱性を見つける速度に、人間のパッチは追いつかない。 だから我々にできることは一つ。 「繋がない。」 ネットワーク分離を徹底し、外部との通信経路を可能な限り断ち切る。これがAI時代のセキュリティのあり方だ。 最も古典的な手段に戻る時が来た。

AIはバブルじゃなくてリアル。となればみんなさっさとAIと労働闘争、政治的闘争始めないとポケーっと口開けててもベーシックインカムとか降ってこないよ

銀行が「脆弱性対応しきれない〜」とかなに軟弱な事言ってんだと思ったらなんかMythosが一万件も脆弱性報告してきたらしい。じゃあ対応しきれないのもしゃーないか

Anthropicの「Mythos Preview」、1カ月で1万件超の脆弱性を発見──「Project Glasswing」初期報告 itmedia.co.jp/aiplus/article…

【判明】津田健次郎、AIで声模倣の動画巡り提訴 TikTok側は「動画は普遍的な男性の声」と反論 news.livedoor.com/article/detail… TikTok側は、動画のナレーションは「普遍的な男性の声」であり、声自体により閲覧者を集めているわけではないなどと反論し、訴えを退けるよう求めているという。

【悲報】100万台のAIサービスをスキャンしたら「史上最悪のセキュリティ」だった件 qiita.com/emi_ndk/items/… #Qiita

みんなMythosの能力に今さら大慌てになってるけど、これは入口よ。「コードの脆弱性」を洗い出せるなら、「社会制度」や「組織構造」や「業務オペレーション」の脆弱性も洗い出す性能がある…という前提で議論や対策をすべき。だと思っんよ。

先見性すぎるな

富士通、AIが人事異動案を作成　工数を約98％削減 nikkei.com/article/DGXZQO…

折りたたみ携帯電話が最先端だった時代は、さほど昔ではない。3年後に今のAIを振り返ったら、きっとガラケーのように感じるだろう。エージェントが日常的にタスクをこなし、文章・画像・動画・音声が自由に変換される世界では、現在のAI利用体験そのものが過渡期のUIに見えるはずだ。 スンダー・ピチャイ「私は非常に確信しています。3年後、今の状況を振り返ったとき、皆さんは「なんて原始的だったんだろう」と気づくはずです。折りたたみ携帯を見るようなものです。折りたたみ携帯を見ても、今さら感銘は受けないでしょう？ かつては皆、あんなに熱狂していたのに。 私たちは今、テクノロジーにおける稀有な瞬間に立ち会っていると思います。進化の曲線は非常に急勾配です。3年後、あるいは3年前を振り返って、「えっ、そんなこともできなかったの？」と言うようになるでしょう。本当に、人々を驚かせることになると思います。これから先、大きな前進が待っているはずです。 私たちは皆、エージェントのための基盤を築いているところですが、エージェントは非常に一般的な存在になるでしょう。人々は物事をよりシームレスに成し遂げるために、エージェントを頼りにするようになるはずです。それが、私が非常に具体的に予見していることの一つです。 あらゆるコンテンツは、どんなモダリティからでも別のモダリティへ変換できるようになると考えています。Nano Banana、Veo、Omniでその片鱗はお見せしましたが、将来的にはあらゆる方法で機能するようになるでしょう。コンテンツが元々どのように作成されたかは関係なく、人々はそれを多様な形式やモダリティで消費できるようになります。これは非常にユニークなことだと思います」