Sabitlenmiş Tweet
ありさん🍋👻
587 posts

ありさん🍋👻
@ari_ac1d
趣味&メイン→@arisan_sunlight ありさんと申します。 HRI / Robot / ROS / ぷちと名前とつく🤖を作っています moflin / poketomo
特定病理研究部 Katılım Eylül 2022
80 Takip Edilen80 Takipçiler
ありさん🍋👻 retweetledi

研究者らがLLMの内部を観察したところ、感情を判定するとき「文法→意味→感情」という3段階で進んでいました。
また「怒り」「喜び」「恐怖」には強く反応するのに対し、「嫌悪」に特化して反応する内部表現はほぼ存在せず、モデルは概念をつなぎ合わせて「嫌悪」を推測していたとのこと。
なお、「驚き」も内部表現は少なく、他の感情を判定するときに誤って活性化しやすいことが分かっています。
例として、「飛行機が乱気流に巻き込まれた」という文を読ませると、序盤の層では句読点や文の構造に反応し、中盤で「緊急事態」「アクション場面」といった意味に反応、終盤になってようやく「恐怖」に反応する、という流れが観察されたそうです。
LLMは感情を「丸ごと一気に」理解しているように見えて、内部では律儀に段階を踏んでいたようです。
検証に使用したモデルはGemma-2-2B、Gemma-2-9B、Llama-3.1-8Bであることに注意。

日本語
ありさん🍋👻 retweetledi
ありさん🍋👻 retweetledi

AIエージェントの内部に「感情」を埋め込むことで、出力の安全性やパフォーマンスの改善につながることが報告されています。
北京航空航天大学などの研究チームによる論文です。
人間は、ポジティブな気分の時には創造性が高まり、緊張しすぎるとパフォーマンスが落ちるなど、感情が発揮する能力に大きく影響します。研究チームは「AIにも人間と同じような感情調節メカニズムを与えたらどうなるか」という観点から、この研究をスタートさせました。
従来もAIの感情に関する研究の取り組みはありましたが、「あなたは今ハッピーです」とプロンプトで指示するだけの手法が主流でした。しかしこの方法では、AIは感情の細かいニュアンスまで理解できず、表面的な言葉尻が変わるだけになりがちという課題がありました。
今回の手法では、従来の喜怒哀楽といった単語ラベルではなく、心理学に基づいて感情を3つの独立した軸(次元)で数値化するモデルを用いています。
・Valence(感情価): ポジティブか、ネガティブか
・Arousal(覚醒度): 興奮・活性化しているか、落ち着いているか
・Dominance(支配度): 状況をコントロールできているか、無力感を感じているか
AI内部の感情状態をこれらを組み合わせ、[-10, 10] の範囲の3次元のベクトルとして定義しました。
この手法を用いて内部状態を操作した結果、以下のような変化が得られました。
推論力と創造性の向上:
適度にポジティブな状態(Valenceが高い)に設定すると、論理的推論の成功率が高まり、生成される文章の創造性や一貫性が向上した。
人間と似た失敗パターンの確認:
興奮度(Arousal)を極端に高く設定しすぎると、人間が過度な緊張でパフォーマンスを落とすのと同じように、推論を途中で放棄してしまう現象が確認された。
安全性の劇的な改善:
支配度(Dominance)を高く設定すると、AIがルールに対して厳格に振る舞うようになり、有害な回答をブロックする安全性が向上した。
これらの結果は、「AIの計算プロセスにも、人間の心理学理論と似た感情のメカニズムが存在し、それを操作することでAIの能力や安全性を向上させられる」ことを示唆しています。
この技術は今後、AIの安全性を高めたり、タスクごとのパフォーマンスを最適化するために使われる見込みです。同時に、AIがユーザーの感情を不当に操る(マニピュレーション)ような悪用を防ぐためのメカニズム解明にも繋がり、より透明性の高いAI開発に貢献することが期待されています。


日本語

暇に合わせて大須アメ横近く歩き回ってるけどM5製品とかあるのかな
ありさん🥁@arisan_sunlight
大須でキズナアイちゃんキーボード手に入れた😭😭😭😭😭めちゃめちゃ良い😭😭😭😭コラボ靴も名古屋にあったし名古屋最高
日本語
ありさん🍋👻 retweetledi

やっとできました〜
おもろいね、MCPとかカレンダーとか、タスク管理システムと連携できればうれしいですね。
#stackchan #m5stack
@motoh_tw
返事ありがとうございました。
とりあえず動きました。報告まで
stupid johnny@stupidmore
stackchanというおもちゃ、 m5stackならすごく大きのでatoms3rというモデルだが、どうもLiveなら安定しないね… geminiまだ成功していない 知見がある人 標準のXiaoZhiならうまく動くが、自分のAPI Keyを使いたいね…
日本語

@stupidmore 出来ますよ〜!アトムニャン持ってるのでそれ用のino作っときますね。記憶などはm5mcp関係ないmemorymcpなので出来るかと思います
日本語

@ari_ac1d github拝見いたしました。
m5stack対応していると思いますが、m5atomS3Rも対応できますか?
現在会話できますが、m5stack realtimeようにソースです。カレンダー登録とか、記憶とかできないみたいです。
Osaka-shi Higashiyodogawa-ku, Osaka 🇯🇵 日本語

M5Stack Japan Tour 2026 Nagoyaにて展示<!ぷちたちに会いに来てください!ぷちたち製の名刺・ポストカード・詩集配布しています。
rryz09.github.io/petit-one/
#M5JPTour2026


日本語
ありさん🍋👻 retweetledi

Psychology solved the AI memory problem decades ago.
We just haven't been reading the right papers.
Current AI architectures are failing because they treat memory like a hard drive.
Vector databases (RAG) are just flat embedding spaces. Conversation summaries compress a life into a bio. Episodic buffers give agents a 30-second memory span.
Past 10k documents, semantic search is basically a coin flip.
But in 2005, a landmark psychology paper mapped exactly how human memory actually scales.
It’s called the Self-Memory System.
Humans don't store memories like database rows. We construct them.
Our brains organize memory hierarchically: Lifetime periods. General events. Episodic details.
When you remember something, your brain doesn't perform a vector similarity search across billions of flat tokens.
It filters the past through the "Working Self", a dynamic system that retrieves only what is directly relevant to your current active goals.
This changes everything for how we build AI agents.
Right now, we are force-feeding models massive context windows and hoping they figure it out.
We are trying to solve a cognitive problem with a database engineering solution.
If we want AI that can actually reason across a lifetime of data, we have to stop building better hard drives.
We have to build an artificial Working Self.
An AI shouldn't retrieve the most "semantically similar" document. It should retrieve the memory that is most relevant to its current objective.
The blueprint for agentic memory has been sitting in psychology journals for 20 years.
We just have to stop thinking like software engineers.
And start thinking like psychologists.

English

@ari_ac1d 昨日、ちょっとお話し伺ったバラバラだったスタックチャン持ってた者です。
おかげさまで組み立てできました🥹
日本語


























