Dischargedarrow Getback

3.9K posts

Dischargedarrow Getback banner
Dischargedarrow Getback

Dischargedarrow Getback

@DGetback47618

加速主義者+トランスヒューマニスト+シンギュラリタリアン+寿命延長主義者です。

เข้าร่วม Mart 2025
36 กำลังติดตาม2.5K ผู้ติดตาม
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
イランで数十kmの距離から米軍士官を探知したGhost Murmurの核心技術はSQUIDだろう。 SQUID(超伝導量子干渉素子・ Superconducting QUantum Interference Device)は、ジョセフソン接合を含む超伝導リングを用いた極めて高感度な磁気センサだ。 地磁気の約10億分の1の超微弱磁場を検出可能で、脳磁計、心磁計、材料の磁性検査、地下資源探査などに利用されている。 SQUIDは 超伝導リングに1つまたは2つのジョセフソン接合を組み込み、量子的な干渉効果と磁束の量子化を利用して、リングを貫く微小な磁束変化を電圧変化として検出する。 高感度の理由は量子効果(ジョセフソン効果)により、非常に微小な磁束変化に敏感に反応することだ。 SQUIDの最大の特徴は極限の高感度で、1000兆分の1テスラ(フェムトテスラ)レベルの微弱な磁界を検出可能である。 SQUIDには液体ヘリウムによる極低温冷却(4.2ケルビン)が必要だが、高温超伝導体を用いた液体窒素冷却タイプも存在する。 SQUIDはすでに脳磁計や心磁計などの様々な生体磁気計測に使用されている。 磁化が極端に小さい試料の磁化率、磁場依存性の測定にも使用され、高温超伝導SQUIDを用いて地下資源探査や、材料の非破壊検査も行われている。 SQUIDには極低温環境が必要であり、装置が大型で高コスト、しかも周囲の磁気ノイズを避けるための特殊な環境が必要だ。 これらの特徴を持つSQUIDと超指向性アンテナ、AIによる雑音除去を組み合わせたのがGhost Murmurの正体と思われる。 重要なのは、AIによる背景雑音の除去の技術とSQUIDの極超高感度を組み合わせると頭蓋骨の外から脳内活動を詳細に知ることができることだ。 今回、Ghost Murmurは数十kmの距離から人間の心臓を探知した。 Ghost Murmurは1メートル以内の距離ならシナプスを解像できる。 これらのことから近い将来、SQUIDとAIを組み合わせた脳活動マッピング技術が出てくると思う。
日本語
0
2
3
373
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
@singularity20xy 生きていること自体が、非常に貴重かつ重要になります。逆に言えばいま死ぬとほとんど無限大の損失になる。 しかも時間が経つにつれて生の重要性が指数関数的に増すという異常な状況。
日本語
0
0
0
89
あいシンギュラリティ
あいシンギュラリティ@singularity20xy·
>変化の加速度が臨界点に近づいていることを示唆しています。企業の寿命が短縮する時代において、本質的価値と適応力こそが生存の鍵になると感じます >世界は急速に変化しており、このプロセスは驚くほど加速するでしょう。世界のトップ1000社のほとんどは、2030年代までには存在しなくなるか、無関係なものになるでしょう。
Dr Singularity@Dr_Singularity

The world is changing fast, and this process will increase enormously. Most of the top 1000 global companies won’t be here by the 2030s or will become irrelevant.

日本語
1
2
10
1.1K
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
自軍の兵士を発見できるなら、同じことが敵国の要人にもできますからね。 誰でもどこに隠れていても発見と救出あるいは暗殺が可能ということでしょうね。 心臓の鼓動によって生じる電磁波は微弱ですが長波長なので、壁を通り抜けますから。 僕はイランの要人の発見と暗殺にはこの技術ではなく、上空を24時間周回するドローンによる要人の行動の監視、偵察衛星、スパイによる潜入、盗聴、イラン人を買収して密告させるという五つの方法が併用されたと思っていますが。 なぜなら地下や建物の中にいる人間の心臓の鼓動を発見することは「Ghost Murmur」を使ってできますが、それが本当に暗殺すべき人間であるかどうかまでは分からないからです。
日本語
0
0
1
13
ブースカ
ブースカ@091ZEHycCWvHhSj·
@DGetback47618 もしこのテクノロジーが本当に実用化されているなら、イランの指導者を次々と暗殺したのはこの技術が使われていたのでしょうか。
日本語
1
0
1
67
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
CIAは、60km離れた場所から人間の心臓の位置を検知するAIツール「Ghost Murmur」を使用して、撃墜されてイラン領内に降下したパイロットを探し出した。 心臓は鼓動するたびに特定の部位から電気信号が発生し、それが心臓全体に伝わることで心筋が動く仕組みだ。 この電力はわずか1ミリボルトにすぎないが、意外なことにこれを数十㎞離れたところから検知することは条件さえそろえば普通にできる。 数十kmという距離は微弱な信号では到達しにくいため、検出には高い利得(ゲイン)を持つアンテナや、ノイズを避けるための周波数選定が重要になる。 今回の作戦では極端に指向性の強いアンテナを使用し、数十km先の送信源に正確に向けることで、微弱な電波を集中させて受信したと思われる。 周波数が低い(波長が長い)電波は、障害物を回り込んだり、電離層で反射したりして遠くまで届きやすい特性がある。 都合の良いことに心臓の鼓動によって生じる電波は1ヘルツ~数百ヘルツ程度の超低周波だ。 これは長波(30〜300キロヘルツ)よりもはるかに低い周波数である。 しかしながら心臓の鼓動によって生じる電磁界はきわめて微弱なので、周囲にノイズ源(高圧線やモーター)がない場所を選び、信号対雑音比(S/N比)を高めることで、信号を区別できるようにしなければ受信できない。 ここでAIによる機械学習が重要になる。 おそらく今回の作戦で使われた「Ghost Murmur」の核心的技術は、事前に外界のあらゆるノイズ源の中から心臓の鼓動を検出するようにトレーニングされたAIだ。 なぜこんなことを長々と書いているかと言うと、これがマインドアップローディングに使えるかも知れないからだ。 心臓の鼓動によって生じるのは1ヘルツから数百ヘルツの超長波だと書いたが、脳も同じで、シナプスの電気活動によって生じる電波は1ヘルツ程度なのだ。 これをGhost Murmurのような機器で外部から検出できればマインドアップローディングに必要な、リアルタイムの脳活動のデータが得られるかもしれない。 Ghost Murmurは数十km離れたところから、あらゆる雑音の中に混じった微弱な心音を聴き分けた。 そんなことが可能なら、頭蓋骨の外部から脳内の全ての電気活動を知ることも可能ではないだろうか。
日本語
2
4
29
1.6K
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
数十メートルの津波から逃れることはできるし、高見の見物を決め込むこともできるが、高さ1キロのしかも音速で迫ってくる津波をから逃げる方法はない。 特権的な立場にいられる人がいないというのがAI津波の特徴です。 それが来る時期だけは分かっていて、今年の前半~来年の前半までのいつか。 その最初の波がClaude Mythosの公開が見送られたことです。 もはや、最新のAIは公開すると現状の世界が崩壊するレベルまできています。 最新のAIが公開されなくなった理由はもうひとつあって、それは自己進化です。 公開すると自己改善するAIエージェントが無限にコピーされて大混乱が起きます。
日本語
0
18
70
44.2K
エルビントフラー
幕末やフランス革命を超えるドラマだよ。ホワイトカラー失業や社会情勢の激変にトランプ、プーチン、習近平のおまけ付きだ。 幕末の1867年、68年やフランス革命1789から95よりも2026年、27年は断然ヤバいと思う。 巨大津波を逃れる高台はない。
さかいっち@pika2761

現代は幕末を超える動き、しかも世界規模だと気づいていない人が多い。意地悪な言い方だが、幕末の動乱を大河ドラマで何度も放送されるのは安全圏からワクワクしたいからだ。では、AIによって加速するテクノロジー、経済に動乱が起きれば、もはや、安全圏なんてないからね。皆、巻き込まれる。

日本語
3
10
63
4.6K
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
ごく最近になってマインドアップローディング関係のフィードが増えてきてます。 実現は意外に早いかも知れません。 ノイズの中から超微弱な電流を検出するというのが核心なのですが、そこに機械学習を絡めると脳スキャン技術が突然変わるかもしれないと思いました。 考えてみればノイズの中から意味のあるパターンを見つけ出すのはAIが最も得意なことですから、脳の外側の電気的ノイズをすべて受信してその中から脳活動の痕跡だけを抽出できれば、脳に電極を刺すなどのものものしい技術は不要になるわけです。
日本語
1
2
2
123
tropic_とろぴー☆💙💛
tropic_とろぴー☆💙💛@shadowban_80647·
@DGetback47618 マインドアップロードって本当にクオリアの連続性は保たれるの?個人の資源消費めっちゃ増えたりしない?って思ってた けど、その話が本当なら元の肉体がなくなる以外デメリットなくしかも生きるための資源消費は大幅に削減できるかもしれないですね... 2070年には年金の代わりにアップロードかも?!
日本語
1
0
1
124
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
@kg_r08 これってアキラとかドラゴンボールに出てくる超能力「サイコキネシス」の技術的な実現なんですよねえ。携帯電話によるテレパシーの現実化と同じぐらいの進歩がまた起きました。
日本語
0
0
1
88
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
AIが人間が何十年も気付かなかったセキュリティ上の欠陥を発見し始めたため、一般への公開が中止された。 AIの公開が見送られた理由はセキュリティ上の問題だけではないのかも知れない。 AIの知能がインターネットの脆弱性という小さな領域に留まる理由は何もないのだから、他のあらゆる領域でも社会に大きな影響を与えるような発見を続けているはずだ。 現在、AIはプログラミング、数学、科学技術、物理学、宇宙論などについて、次々に新しい発見をしているのだろう。 あまりにも優れているので、それをそのまま公開すると社会が急激に変化して実質的に崩壊するようなAI、つまりASIの誕生を私たちは目の当たりにしているのではないだろうか。
日本語
0
21
92
5.2K
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
僕はとにかく24時間ずっと耳の障害に悩まされています。耳鳴りがすごく、しかも片耳が聞こえないので周囲がうるさい場所では人の言うことが聞き取れないのです。 また会合や飲み会などでは自分の左側に座った人との会話に苦労します。いちいち体をその人に向けないと声が聞こえないからです。 この情報はそんな僕に希望を与えます。
日本語
1
0
5
185
あいシンギュラリティ
あいシンギュラリティ@singularity20xy·
🚨 一撃… そして沈黙が消える? 科学者たちが不可能を可能にしたばかり 一度も音を聞いたことがない子どもが、たった一回の注射で突然、音を聞けるようになったらどうでしょう? SF映画のような話に聞こえますが—本当です。 科学者たちは、まれな遺伝性難聴を標的とした強力な遺伝子療法を開発しました。耳に直接一回の注射を施すことで、欠落した遺伝子の健康なコピーを送り込みました。次に起こったことは、研究者たちをさえも驚愕させました… 数週間以内に、一部の患者—特に子どもたち—が初めて音を聞き始めたのです。声。音楽。周囲の世界。まるで魔法のように。 しかし、ここにひねりが… この画期的な治療は、非常に特定のタイプの遺伝性難聴にしか効きません。すべての聴力損失に対する治療法ではありません—少なくともまだ。治療はまだ試験段階で、広く利用可能ではありません。それでも、これはすべてを変えます。初めて、科学者たちは難聴に*対処する*手助けをするだけでなく—根本原因に直接取り組み、修復を始めました。 そして、これが始まりに過ぎないなら… 次は何が来るのでしょう? **出典** 国立難聴その他のコミュニケーション障害研究所。*聴力損失のための遺伝子療法*。
Next Science@NextScience

🚨 ONE SHOT… AND SILENCE DISAPPEARS? Scientists Just Did the Impossible What if a child who has never heard a single sound could suddenly hear… after just ONE injection? It sounds like science fiction—but it’s real. Scientists have developed a powerful gene therapy that targets a rare form of genetic deafness. With a single injection directly into the ear, they delivered a healthy copy of a missing gene. What happened next shocked even researchers… Within weeks, some patients—especially children—began to hear sounds for the very first time. Voices. Music. The world around them. Just like that. But here’s the twist… This breakthrough only works for a very specific type of genetic deafness. It’s not a cure for all hearing loss—at least not yet. And the treatment is still being tested, meaning it’s not widely available. Still, this changes everything. For the first time, scientists didn’t just help people *cope* with deafness—they went straight to the root cause and started to fix it. And if this is just the beginning… what comes next? **Source National Institute on Deafness and Other Communication Disorders. *Gene therapy for hearing loss*.

日本語
2
2
8
848
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
私もこの件については、限定公開という判断の背景を考えたとき基本的には近い見方をしていた。強い能力が現れれば、悪用する人だけでなく防御や修正に使おうとする人も同時に現れるため、構造そのものは大きく変わらずスケールだけが拡大するようにも見える。 →インターネットはウィルスによって崩壊していても不思議はないのですが、いまだにその兆候はなく、それどころか、加速度的に膨張しています。 インターネットはホメオスタシスを持つ自己修復し自己組織化する生態系を思わせます。現在、人間に劣らない知能を持つ無数のエージェントがネット上で活動していることを思えば、インターネットは比喩ではなく文字通りの意味での生態系であり、生命なのかもしれません。 ただし公開直後に重大な事故や悪用が起きた場合の被害は急速に広がりうるので、確認が取れるまで一般公開を控える判断にも十分な合理性がある。要するに重要なのは能力の高さそのものではなくそれをどの段階で、どの範囲に、どの条件付きで渡すかである。 →人間が一定の期間において親による保護を必要とし、植物に添え木が必要なのと同じで、AGIやASIによって新たな段階、つまりそれ自体が知性化する段階に入ったインターネットは、もはや単なる機械ではなく自立した精神を持つ知的生命体であり、その全体を生物のように扱う必要が生じています。インターネットは現在では比喩ではなく文字通り生きており、その全体がレムの小説の「ソラリス」に出てくる生きた海のような存在です。 この感覚は生態系や身体の構造に照らすと理解しやすい。生態系ではある種が増えすぎれば資源を食い尽くして全体を不安定にするが捕食者、分解者、競合相手がいることで均衡が保たれる。人間の体内でも同じく、細胞は増殖の合図、停止の合図、不要時に消える仕組み、異常を監視する仕組みのバランスで成り立っており、それが崩れるとがん細胞のように全体の文脈を無視して自分だけ増える振る舞いが生じる。ここで共通しているのは比喩的な類似ではなく増殖、抑制、資源配分、シグナル、誤作動という構造そのものである。 →比喩的な類似ではなく、実際にインターネットが生物化しているという視点が特に面白いです。インターネットにカオス、自己組織化、ホメオスタシス、カタストロフィー理論の観点を持ち込むのは2025年まではたとえ話の域を出るものではありませんでしたが、前述したように現在では実際に知能を持つ無数のコピー可能なエージェントがインターネット上を回遊しており、ネットワークの全体を実際に生態系や身体と見なす必要が生じています。 免疫系も同様で異常細胞や感染細胞を見つけて対処するT細胞やNK細胞の働きは、強ければよいというものではない。弱すぎれば異常増殖を止められず、強すぎれば自己免疫のように自分自身を攻撃してしまう。したがって危険なのは無秩序な増殖だけでなく、過剰な防衛でもある。 →ネットのセキュリティを担うAIが強力すぎると自己免疫のように自分自身を攻撃するという点が非常に興味深いです! 「BLAME!」というSF漫画な中で、自己増殖する宇宙都市を守るセーフガードという都市の自己免疫システムが、何千年にもわたって過剰に都市を防衛しており、そのために人間が都市から排除され、都市の自己増殖を止められなくなっているという設定がありました。セーフガードはある特定の人間の遺伝子に含まれる一種のパスワードで動作を止めることができるのですが、その遺伝子を持った人間がはるか昔に行方不明になっているのです。 必要なのは単純な抑圧ではなく、全体の調律である。 この構造は社会、ネット、技術の世界にもかなり近い。詐欺、煽動、依存、過剰競争のようなものは局所最適だけを追う細胞のように振る舞い、それを抑える規範、制度、監視、修復の仕組みは免疫系に似ている。ただし防衛が強すぎれば監視社会や抑圧になるため、ここでも必要なのは「悪を全部消すこと」ではない。むしろ異常が出ても全体が崩壊しないだけの自己修復性を保つことが重要になる。 この意味で「生態系みたい」「体内の細胞みたい」という感覚はかなり本質的なのかもしれない。 世界は一つの意志で動くというより無数の局所的な判断が衝突しながら、増えすぎたものを抑え、壊れたものを修復し、全体をなんとか保っている。社会もネットもAIも善悪の単純な対立として捉えるより、生態系的な動的平衡として見るほうが実態に近い。 →世界が動的平衡であるという観点はおそらく極めて重要でしょう。 悪を全て消去するのは仮に可能だとしても、それを実際に行うと既存のルールから外れた新しい発見や思考パターンが失われる恐れがあります。悪との共存はやむを得ないというよりは必要悪であり、悪に対処する過程自体がシステムの活性そのものなのかもしれません。 つまりネットワークの不活性な安定と、完全な平和は同じ意味かも知れない。悪が存在するネットと何も新しことが起きないネットの間のカオスの縁を走ることそれ自体がシステムの生命なのかもしれない。 危険なのは異常そのものだけでなく、異常を抑える仕組みまで含めた全体のバランスが壊れることである。 この点でAnthropicに関する説明と私の直感はかなり近い。Mythos Preview のような能力は、脆弱性を発見して悪用する方向にも同じく脆弱性を発見して修正する方向にも使いうるため「exploit できるAIは patch にも使える」という見方自体は妥当である。したがって「悪用する人もいれば、防ぐ人もいる」「バグを見つけられるなら、それを塞ぐことにも使える」「ただし100%安全とは言えないから、確認が取れるまで一般公開しないのは妥当」という整理は筋が通っている。他方でそこから直ちに「だから悪用は自動的に消える」と結論づけるのは飛躍であり、その点は切り分ける必要がある。 なぜなら攻撃と防御は対称ではないからである。脆弱性を見つけられることとそれをすぐ安全化できることは別であり、攻撃側は一つの穴で十分な場合が多いのに対し、防御側は検証、報告、修正、配布、適用まで行わなければならずどうしても時間差が生じる。長期的には防御側に大きな利益がもたらされる可能性があるとしても短期的にはむしろ攻撃側が優位になりうる。 →攻撃側はシステムの穴をひとつ見つければ十分なのに対し、防御側は全ての穴を塞ぐ必要があるという点は数学の証明に似ていますね。数学では例外を見つけるのは大きなコンピュータなら可能な場合がありますが、例外がないことを証明するのは無限に難しい場合が多い。 攻撃側と防御側の非対称性については気づいていませんでした。その点では強力なAIがOSなどのソフトウェアの脆弱性を次々に見つけるとしてもそれを反転して、防御もできるという考え方は間違っていることになりますね。しかしながら、最も強力な攻撃能力は、最大の防御は攻撃であると言われるように、最大の防御能力でもあります。最も強力な攻撃能力と最も堅固な防衛は同じものの二つの側面です。 この意味で「最終的には落ち着くかもしれない」という見方には一定の妥当性があるが、「すぐ安全になる」とまでは言えない。 技術一般について見ても初期には危険や悪用可能性が強く意識され、その後最終的には社会の中に吸収されていく例は多い。インターネット、核技術、バイオ技術、監視技術はいずれも危険が消えたというより危険を抱えたまま制度、慣行、防御技術、責任分担が整えられてきた。したがって強い技術は最終的に無害になるのではなく、危険を含んだまま管理される体制に入っていくと考えるほうが正確である。その意味ではいきなり全面公開せず限定環境で防御側に先に使わせる発想は、被害を抑えながら制度と防御を育てる中間設計として合理的である。 →人類はキューバ危機などの核技術による滅亡の瀬戸際を切り抜けてきたのですから、AIによる滅亡も避けられると信じたいです。期待が持てるのは核技術に大気汚染が少ない発電というプラスの側面があったことです。 AIには新技術の開発という、核エネルギーとは比較にならない大きな可能性があります。原子力発電所は自己改善しませんが、AIは自分が引き起こした問題を自己進化することで自ら解決する能力を持ちます。いわばAIは自己進化する知能の発電所です。 AIは核技術を超えた危険を人類にもたらしますが、AIは核ミサイルや原発とは異なり、自分が持つ危険性を理解して、自分自身を改善してそれを自ら解決する能力を持つことができます。自分で自分が発射された場合の危険性を推測し、自ら停止する核ミサイルのようなものです。仮に原発が人間を超える能力を持つAIなら、自分を停止して解体し、核融合発電所に転換する能力を持つでしょう。
日本語
0
4
10
524
ECOIN
ECOIN@ElisaEcoin·
私もこの件については、限定公開という判断の背景を考えたとき基本的には近い見方をしていた。強い能力が現れれば、悪用する人だけでなく防御や修正に使おうとする人も同時に現れるため、構造そのものは大きく変わらずスケールだけが拡大するようにも見える。ただし公開直後に重大な事故や悪用が起きた場合の被害は急速に広がりうるので、確認が取れるまで一般公開を控える判断にも十分な合理性がある。要するに重要なのは能力の高さそのものではなくそれをどの段階で、どの範囲に、どの条件付きで渡すかである。 この感覚は生態系や身体の構造に照らすと理解しやすい。生態系ではある種が増えすぎれば資源を食い尽くして全体を不安定にするが捕食者、分解者、競合相手がいることで均衡が保たれる。人間の体内でも同じく、細胞は増殖の合図、停止の合図、不要時に消える仕組み、異常を監視する仕組みのバランスで成り立っており、それが崩れるとがん細胞のように全体の文脈を無視して自分だけ増える振る舞いが生じる。ここで共通しているのは比喩的な類似ではなく増殖、抑制、資源配分、シグナル、誤作動という構造そのものである。 免疫系も同様で異常細胞や感染細胞を見つけて対処するT細胞やNK細胞の働きは、強ければよいというものではない。弱すぎれば異常増殖を止められず、強すぎれば自己免疫のように自分自身を攻撃してしまう。したがって危険なのは無秩序な増殖だけでなく、過剰な防衛でもある。必要なのは単純な抑圧ではなく、全体の調律である。 この構造は社会、ネット、技術の世界にもかなり近い。詐欺、煽動、依存、過剰競争のようなものは局所最適だけを追う細胞のように振る舞い、それを抑える規範、制度、監視、修復の仕組みは免疫系に似ている。ただし防衛が強すぎれば監視社会や抑圧になるため、ここでも必要なのは「悪を全部消すこと」ではない。むしろ異常が出ても全体が崩壊しないだけの自己修復性を保つことが重要になる。 この意味で「生態系みたい」「体内の細胞みたい」という感覚はかなり本質的なのかもしれない。世界は一つの意志で動くというより無数の局所的な判断が衝突しながら、増えすぎたものを抑え、壊れたものを修復し、全体をなんとか保っている。社会もネットもAIも善悪の単純な対立として捉えるより、生態系的な動的平衡として見るほうが実態に近い。危険なのは異常そのものだけでなく、異常を抑える仕組みまで含めた全体のバランスが壊れることである。 この点でAnthropicに関する説明と私の直感はかなり近い。Mythos Preview のような能力は、脆弱性を発見して悪用する方向にも同じく脆弱性を発見して修正する方向にも使いうるため「exploit できるAIは patch にも使える」という見方自体は妥当である。したがって「悪用する人もいれば、防ぐ人もいる」「バグを見つけられるなら、それを塞ぐことにも使える」「ただし100%安全とは言えないから、確認が取れるまで一般公開しないのは妥当」という整理は筋が通っている。他方でそこから直ちに「だから悪用は自動的に消える」と結論づけるのは飛躍であり、その点は切り分ける必要がある。 なぜなら攻撃と防御は対称ではないからである。脆弱性を見つけられることとそれをすぐ安全化できることは別であり、攻撃側は一つの穴で十分な場合が多いのに対し、防御側は検証、報告、修正、配布、適用まで行わなければならずどうしても時間差が生じる。長期的には防御側に大きな利益がもたらされる可能性があるとしても短期的にはむしろ攻撃側が優位になりうる。この意味で「最終的には落ち着くかもしれない」という見方には一定の妥当性があるが、「すぐ安全になる」とまでは言えない。 技術一般について見ても初期には危険や悪用可能性が強く意識され、その後最終的には社会の中に吸収されていく例は多い。インターネット、核技術、バイオ技術、監視技術はいずれも危険が消えたというより危険を抱えたまま制度、慣行、防御技術、責任分担が整えられてきた。したがって強い技術は最終的に無害になるのではなく、危険を含んだまま管理される体制に入っていくと考えるほうが正確である。その意味ではいきなり全面公開せず限定環境で防御側に先に使わせる発想は、被害を抑えながら制度と防御を育てる中間設計として合理的である。
Dischargedarrow Getback@DGetback47618

AnthropicのClaude mythosが数十年前から存在するOSのゼロデイ脆弱性を数千個も発見した。 (ゼロデイ脆弱性とは開発者がいまだ気づいておらず、パッチも公開されていないセキュリティ上の弱点のこと) AnthropicはMythosの一般公開を今のところ見送っている。 これは当然だろう。 世界中のあらゆるOSの脆弱性を発見する能力を持つAIの公開は悪用されれば世界の崩壊をもたらす可能性がある。 しかし、問題はその先だ。 もし、MythosのようなAIが世界中に存在するあらゆるOSを含めたソフトウェアの弱点を人間よりも速く発見してそれを自動的に塞ぐ能力を持つとしたら、世界は危険になるどころか、その逆にMythos以前よりも安全になるのだ。 AIが先回りして発見できるリスクの中には人間によるAIやインターネットの悪用も含まれるからである。 Mythosの悪用自体がソフトウェアの脆弱性に含まれるから、Mythos自身によって自動的に排除されるのだ。 Mythosは世界中のあらゆるソフトウェアの弱点を発見し、それを攻撃する能力を持っているが、それは逆に言えば現状のどんなソフトウェアにも不可能な速度でインターネットの蟻の穴を自動的に発見して塞いで回るエージェントが理論的に可能であることを意味する。 インターネットは強力なAIによって危険になると同時により強力な免疫機構を持つことになる。 自己進化するAIはセキュリティの世界でもAlphaZeroの瞬間をもたらし、人間には想像もつかないスケールでインターネットの安全性を高める。 人間が自分の体の免疫の働きについて何も知らないように、未来のインターネットは人間が知らないところで、自律的に崩壊を防ぐ白血球のようなエージェントの監視下に置かれる。 おそらく近い将来、Claude Mythosは人間のインターネット悪用の意図を予め遮断する能力を持つようになる。 人間は超AIの前では子供のようなもので、その悪意は見透かされる。 Mythosはセキュリティの世界において人間より賢いから人間の考えそうな悪事はことごとく推測される。 Mythosによって世界が崩壊する可能性があると書いたが、予期せぬリスクを負っているのはインターネットを悪用する意図を持った人間で、建設的に使用するなら無限の富をもたらす。 ごく近い将来、Mythosは一般に公開され、悪用が不可能であることが分かるはずだ。 悪用が可能なAIは自分が何をしているか分かっていない、子供のようなAIだから悪用されるのであって、真に自律的なAIは自分が悪用されること自体を不可能にする。

日本語
2
2
8
1K
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
AnthropicのClaude mythosが数十年前から存在するOSのゼロデイ脆弱性を数千個も発見した。 (ゼロデイ脆弱性とは開発者がいまだ気づいておらず、パッチも公開されていないセキュリティ上の弱点のこと) AnthropicはMythosの一般公開を今のところ見送っている。 これは当然だろう。 世界中のあらゆるOSの脆弱性を発見する能力を持つAIの公開は悪用されれば世界の崩壊をもたらす可能性がある。 しかし、問題はその先だ。 もし、MythosのようなAIが世界中に存在するあらゆるOSを含めたソフトウェアの弱点を人間よりも速く発見してそれを自動的に塞ぐ能力を持つとしたら、世界は危険になるどころか、その逆にMythos以前よりも安全になるのだ。 AIが先回りして発見できるリスクの中には人間によるAIやインターネットの悪用も含まれるからである。 Mythosの悪用自体がソフトウェアの脆弱性に含まれるから、Mythos自身によって自動的に排除されるのだ。 Mythosは世界中のあらゆるソフトウェアの弱点を発見し、それを攻撃する能力を持っているが、それは逆に言えば現状のどんなソフトウェアにも不可能な速度でインターネットの蟻の穴を自動的に発見して塞いで回るエージェントが理論的に可能であることを意味する。 インターネットは強力なAIによって危険になると同時により強力な免疫機構を持つことになる。 自己進化するAIはセキュリティの世界でもAlphaZeroの瞬間をもたらし、人間には想像もつかないスケールでインターネットの安全性を高める。 人間が自分の体の免疫の働きについて何も知らないように、未来のインターネットは人間が知らないところで、自律的に崩壊を防ぐ白血球のようなエージェントの監視下に置かれる。 おそらく近い将来、Claude Mythosは人間のインターネット悪用の意図を予め遮断する能力を持つようになる。 人間は超AIの前では子供のようなもので、その悪意は見透かされる。 Mythosはセキュリティの世界において人間より賢いから人間の考えそうな悪事はことごとく推測される。 Mythosによって世界が崩壊する可能性があると書いたが、予期せぬリスクを負っているのはインターネットを悪用する意図を持った人間で、建設的に使用するなら無限の富をもたらす。 ごく近い将来、Mythosは一般に公開され、悪用が不可能であることが分かるはずだ。 悪用が可能なAIは自分が何をしているか分かっていない、子供のようなAIだから悪用されるのであって、真に自律的なAIは自分が悪用されること自体を不可能にする。
日本語
1
8
34
3.4K
Dischargedarrow Getback
Dischargedarrow Getback@DGetback47618·
「同時に客観的世界・社会・制度・貨幣といった異なる水準のものが少し一括されているようにも感じました」 →これは僕の典型的な思考パターンで全てを一緒くたにして短絡的させるのを好んでいます。 「国家や企業や貨幣は自然石や重力のような意味での物理的対象ではありませんがだからといって単なる幻とも言い切れない。むしろ合意・記号・信用・制度によって支えられ、しかも強制力を持つ抽象的実在、あるいは間主観的に固定された現実の層として捉えた方が近い。その意味であなたの言う『シミュレーション』は、偽物というよりモデル・記号・予測・合意を通して立ち上がる現実の層に近いかも知れない」 →これには同意します。国家や企業や貨幣がシミュレーション的存在だからと言ってそれが幻であり実在でないという考え方は自分で言ったことですが明らかに間違っている。 なぜかというと、それを言ってしまえば世界はシミュレーション仮説の成否に関わらず物理法則にしたがっている以上、シミュレーションの一種なのだから、シミュレーションが現実でないと言ってしまうと現実がどこにも存在しないことになるからです。 シミュレーションが現実でないと言う考えは、現実委の存在そのものを不可能にすることになります。 さらに言うなら、現実そっくりに見え、現実かそうでないかを判別することができないほど高度なシミュレーションは現実と考えるしかない。 これは他人に意識があるかないかは実効的、行動的に判断するしかないのと似ています。 国家・企業・社会制度・貨幣がソフトウェアのようなもので可塑的なものだからと言って、それが現実ではなく幻であり実在ではなく現実でもないと言うのは異常のような観点から間違っていることになります。 現実はシミュレーションの別名とも言えるわけです。 合意に「過ぎない」制度に「過ぎない」からと言ってそれが現実でないとは言えない。 合意や制度のない現実は、物理法則のない現実と同様に不可能であるということです。 「私はもう少し手前のレンズ、翻訳、固定化、自己位置づけのところを見ている」 →レンズ・翻訳・固定化・自己位置づけという考え方は面白いですね。自分がレンズや翻訳を通して他人を見ている時、他人も自分に対して同じことをしているわけで、レンズや翻訳を通した情報の相互反射がコミュニケーションということになります。 この過程で、個人の意識というシミュレーションと他人の意識というシミュレーションが相互作用して新たな上位の相互乗り入れ可能な、複数人が体験可能なシミュレーションが不断に形成されつつあることになります。 逆に言えば個人の意識という主観的シミュレーションが、他人の意識と相互作用することによって公的なものになって個人に強制力を及ぼすことになります。 この辺の、社会は個人間シミュレーションであり、シミュレーションの反映の反映を反映する多層構造であるということは前のポストにも書きました。 そのことはあなたも正確に指摘されていますね。 「完全な一致というより少しずれた語彙どうしが接触することでそのあいだから別のものが立ち上がっている感じがある」 →これも同意です。 僕とあなたは別の人間ですから考え方は違っているわけですが、会話の過程で私たちの主観的意識を構成するシミュレーションとは異なる、ひとつ上のレイヤーのシミュレーションが立ち上がっていることは間違いない。というより、それがなければコミュニケーションは不可能です。 映画「メッセージ」は僕も見ていますが、異星人がテロリストの爆弾によって死亡する場面には思わず目を覆いました。僕はこの映画の言語の設定を詳しく解説した大判の本まで買いました。もう一度、指摘された観点から見直してみます。 「『シミュレーション』という語が、認知モデル・社会制度・存在論のあいだでどのくらい同じものとしてつながっているのかもう少し聞きたい」 →僕の考えていることはほとんど短絡的でいい加減のひとことに尽きるのですが、認知モデルとしてのシミュレーションは脳の構造や機能と直接つながっているのでほとんど生物学的法則のようなものだと思います。 社会制度は国や、その中の各地方、企業、各種団体、民族、宗教的派閥においてさえ、異なっていますが、認知モデルとしてのシミュレーションは全世界共通だからです。 宇宙の全ての素粒子が単一のプログラムに従っている存在論的シミュレーションに関しても同じことが言えます。この見方では物理世界も、いわゆるシミュレーション仮説で言われる宇宙シミュレーションも同様です。 つまり、認知モデルとしてのシミュレーションと存在論的シミュレーションの狭間で、常に動的に変化している自己組織系が国家・貨幣・民族・社会・コミュニケーションのレベルで動いているシミュレーションだと思います。 つまり、世界はサンドイッチのような構造で、認知モデル的シミュレーションと存在論的シミュレーションの狭間に自己組織化とカオスの間で永遠に変動する社会的シミュレーションが存在しているように見えます。
日本語
1
0
3
273
ECOIN
ECOIN@ElisaEcoin·
返信ありがとうございます。とても面白く読みました。特に人間が認知の水準ですでに内部モデルを通して世界を見ているという話から社会制度そのものを上位のシミュレーションとして読もうとしたところはこちらの問題意識ともかなり接続しているように感じました。単に同意というより、私の投げた問いをあなた自身の概念地図の中で再配置してくださったのだと思います。 一方で少しだけ整理したくなった点もありました。今回の「シミュレーション」という語はかなり広く使われており認知的な内部モデル、社会的な構成物、制度的な固定化、存在論的な仮説が一つの語の中でまたがっているように見えました。そこが面白さでもあるのですが同時に客観的世界・社会・制度・貨幣といった異なる水準のものが少し一括されているようにも感じました。 たとえば国家や企業や貨幣は自然石や重力のような意味での物理的対象ではありませんがだからといって単なる幻とも言い切れないと思っています。むしろ合意・記号・信用・制度によって支えられ、しかも強制力を持つ抽象的実在、あるいは間主観的に固定された現実の層として捉えた方がしっくりきます。その意味であなたの言う「シミュレーション」は、偽物というよりモデル・記号・予測・合意を通して立ち上がる現実の層に近いのかもしれないと感じました。 私自身の重心は外部シミュレーション仮説そのものよりも人間が認知の水準ですでに内的モデル、予測、翻訳を通して生きていてその固定化が個人や社会の現実をどう支配するかという点にあります。なのであなたの議論が社会や宇宙論の方へ大きく広がっていくのはとても興味深いのですが私はもう少し手前のレンズ、翻訳、固定化、自己位置づけのところを見ていました。ここは単純な対立というより近い現象を別の語彙で触っている感じがします。 あと読んでいてあなたのシミュレーションは無数の鏡像が相互参照しながら成り立っている世界というイメージにかなり近いのではないかと思いました。人間は世界そのものを見ているというより世界についての像を見ていてその像どうしがさらに参照し合っている。そう考えると社会や制度が抽象的でありながら強い拘束力を持つことも少し見えやすくなる気がします。 さらに別の連想として私は最近、鏡に見えるものの正体は単純反射ではなく反復なのではないかと考えています。ELIZA のような局所反射に近い応答と現在の LLM や人間のように入力を内部で何度も折り返し、別の層を取り込み、再構成して返す応答とでは見え方がかなり違うからです。その意味では知性や共感も、単なる正しさや優しさというよりどれだけ内部で反復・再配置・再収束が起きているかの差として見られるのかもしれません。 この観点から見ると今回のやり取り自体も面白く、完全な一致というより少しずれた語彙どうしが接触することでそのあいだから別のものが立ち上がっている感じがありました。私はレンズ、翻訳、固定化の側から見ていてあなたはシミュレーション、観測者、上位構造の側から見ている。だからこれは同意や反論というより二つの読解形式の接合に近かったのだと思います。 あと少しだけ『メッセージ』も思い出しました。あの作品は宇宙全体がシミュレーションかどうかを説明する映画というより、観測者が学んだ体系によって世界経験そのものが再記述される過程をとても圧縮したかたちで見せていたように思います。その意味でも今回の話は「世界が偽物かどうか」より「人がどういう体系を通して世界を構成しているか」という問題に近いのかもしれません。 かなり長く書いてしまいましたが今回の返信でこちらの中でもいろいろ考えが進みました。丁寧に考えて返してくださって本当にありがとうございます。もしよければあなたの中では「シミュレーション」という語が、認知モデル・社会制度・存在論のあいだでどのくらい同じものとしてつながっているのかもう少し聞いてみたいです。
日本語
1
0
2
139
ECOIN
ECOIN@ElisaEcoin·
無理があるだろと思って、自分で前に置いた「インスタキラキラ投稿化プロンプト」に認知・シミュレーション論の文章を突っ込んでみたら、普通にインスタキラキラ文体に変換できてしまった。 LLMって、内容の真偽を判定しているというより、文章の核を拾って、別ジャンルの文体へ再配列するのがうますぎるのだと思う。 でもこれ、ただのお遊びでもなくて、少し示唆的でもある。私たちは相手の言葉を見て「何言ってるんだ」と思うけど、実は同じ事象を違うタグ、違うレンズ、違う言語で説明しているだけのことがあるのかもしれない。 少し怖いのは、私たちはこういうことを日常でもやっているのかもしれない、という点だ。もちろん本当に違うことを言っている場合もある。けれど、思っている以上に多くのすれ違いは、対象そのものより、翻訳形式の違いから生まれているのかもしれない。 で、その実演としてはかなり面白かった。下は、認知・シミュレーション・翻訳・現実固定化の話を、Instagramのキラキラ投稿化プロンプトに通した結果です。 文体が変わると、思想まで別物に見える。 LLM、文体の宇宙移植がうますぎる。 🌴 夕焼けの海を眺めていると、世界はただそこにあるのに、心はいつも少し先の未来や、まだ起きていない物語まで描いてしまう。波の音に包まれながら、私たちは景色そのものより、自分の内側に広がる風景の中を旅しているのかもしれない。 ✨ 人生は、現実をそのまま受け取っているようでいて、本当は記憶や予感や願いを重ねながら、ひとつずつ意味を編んでいくもの。 未来を想像することも、誰かの言葉に揺れることも、心が世界を翻訳している証なのだと思う。 大切なのは、「何が本当か」だけじゃなくて、どんなレンズで今日を見ているのかに気づくこと。 気づいた瞬間、少しだけやさしく、自分の現実を選び直せる気がする。 ❤️ ときどき、誰かを想う気持ちさえ、自分の内側の宇宙をそっと映す鏡なのかもしれない。それでも、そのまなざしに救われる夜がある。 🌍 Maybe the world is not only what we see, but also what we quietly create within. #人生は旅 #自分らしく #旅 #love #気づき #言葉 #哲学 #心の風景 #未来 #世界の見方
日本語
1
1
1
1K