AIDB

AIの技術動向、追いきれていますか？ 毎日数百本規模でAI分野の論文が公開される時代。 「AI分野の最新事情に正しくキャッチアップしたいけど時間がない」というビジネスパーソンの声に応えてきたのが、AIDBです。 ・要約付きAI論文データベース ・研究内容を質問できるAIチャット などが利用し放題。

LLMの幻覚は「単純に直せる」ものではなく、ある種の幻覚を潰すと別のタイプの幻覚が顔を出す、そんなモグラ叩き構造になっています。たとえば指示にきっちり従わせるようにすると推論力が落ち、知識を注ぎ込めば既存知識を忘れてしまう、そんなトレードオフが存在するのです。 ai-data-base.com/archives/107475

関連記事 LLMの性格を、「特性の強度」にもとづき詳細に設定する方法 ai-data-base.com/archives/91747

LLMにキャラクターを演じさせるとき、そのキャラクターが「協調性が高い」性格ほど、ユーザーの意見にイエスと言いがちになる、要するにおべっかを使うようになってしまうとの報告。 一方で、他の性格を持つキャラを与えることはむしろお世辞を減らす方向にも働くそう。 「やさしい人格」を設定するときは正直さを担保する追加の指示を入れるべき、というのが実用上の示唆です。

関連記事 LLMの性格はユーザーにとってどれほど重要？調査結果 ai-data-base.com/archives/95143

関連記事 LLMにロールプレイさせる方法論、大集合 ai-data-base.com/archives/105387

論文 ai-data-base.com/paper/2604-107…

LLMの道徳観は人間にうつる？ ケンブリッジ大学などの研究チームによる実験では、特定の道徳観を埋め込んだLLMと人間が対話すると、人間自身の道徳観がそのLLMの方向に引っ張られることが示されています。 また、その効果は2週間後もほぼ維持されたとのことです。 たとえば、”義務論”を埋め込んだLLMと対話した参加者は、中絶・安楽死・銃規制といった現実の社会政策に対しても、より保守的な評価を示すようになりました。 「LLMにどんな倫理を埋め込むか」という議論は、機械の振る舞いを規定するだけでなく、利用者の道徳観そのものを書き換えてしまう影響まで視野に入れて行う必要があるのかもしれません。

関連記事 LLMの設計仕様と挙動にはギャップがある　モデルが自然に大事にしている価値観を探る ai-data-base.com/archives/96632

関連記事 開発企業や言語ごとに異なるLLMのイデオロギー、価値観や態度 ai-data-base.com/archives/77645

関連記事 LLMにはそれぞれ価値観や振る舞いの偏りがある　取り除くことは難しい ai-data-base.com/archives/103053

関連記事 LLMに道徳的なことを考えさせるとき、「じっくり考えて」は逆効果だった ai-data-base.com/archives/103187

論文 ai-data-base.com/paper/2604-102…

人類が数千年かけて試してきた組織のかたちが、いままさにAIエージェント設計のライブラリとして使える時代に。 研究者らが秦漢の郡県制など歴史上の政治体制をAIエージェントチーム用に実装したところ、同じモデル・同じタスクでも、制度を変えるだけで成績が57ポイント以上変わったそうです。 試されたのは秦漢の郡県制のほか、唐の三省六部、江戸の幕藩体制、アテネの直接民主制など。 実験の結果、どんな状況でも勝つ「最強の制度」は存在せず、モデルやタスクが変われば最適な制度も入れ替わったとのことです。 AIの集合知を伸ばす鍵は単一の理想形を作り込むことではなく、状況に応じて統治の形そのものを組み替えられる柔軟さにあるという結論。

関連記事 「エージェントをどう組ませるか」設計する時代へ ai-data-base.com/archives/102922

オープンソースLLMの世界は一見すると新しいモデルが大量に出ているように見えて、ほとんどのモデルはLlamaやQwenといった有名な土台モデルの「派生品」にすぎず、流れを塗り替えるような存在にはなっていません。例外的に流れを変えられるのは、パラメータ数が大きいモデルや、ファインチューニングで作られたモデルが中心です。 ai-data-base.com/archives/106967

関連記事 マルチエージェントは万能薬ではない　180パターンの実験が明かすマルチエージェントの適材適所 ai-data-base.com/archives/98974