Takuya Tamura

🚀 Happy to share our #COLM_conf #COLM2025 paper: "Can a Crow Hatch a Falcon? Lineage Matters in Predicting Large Language Model Performance" arxiv: arxiv.org/abs/2504.19811 alphaxiv: alphaxiv.org/abs/2504.19811

NASA JPLを離れ、ジョージア工科大学の准教授に着任することになりました。夢を諦めたからではありません。夢を追い続けるためです。 久々に長文を書きました： hiroono.com/ja/2026/04/20/… I’ll leave JPL and join Georgia Tech as an associate prof in July. Here is why: hiroono.com/en/2026/04/20/…

【4社中核に国産AI開発会社を設立】 news.yahoo.co.jp/pickup/6575967

Approaching the near side of the Moon. The Artemis II astronauts have surpassed the record for the distance from Earth at 1:56 ET (1756 UTC). This record was previously set during the Apollo 13 mission when the astronauts traveled 248,655 miles from Earth. The Moon continues to grow larger and larger in the windows of the Orion spacecraft as the Artemis II mission gears up to observe the far side. The astronauts are predicted to make their closest approach of the Moon around 7:02pm ET (2302 UTC).

One last look at Earth before we reach the Moon. This view of the Earth was captured on April 5, the fourth day of the Artemis II mission, from inside the Orion spacecraft. The four astronauts will reach their closest approach of the Moon tomorrow, April 6.

#月 に向かった #アルテミスII、今どこに居るの？と思ったらこちらのサイトを。 #NASA 本家本元作成。 nasa.gov/missions/artem… 英語操作だし、ちょっと多機能過ぎてムリって方は、こちらの方が直感的でわかりやすいかも。 artemistracker.com もうすぐ月のすぐそばまで来ますよ。

耳の裏を黒く塗った神を讃えよ(定期) #北きつね牧場

Appleさん！そろそろ多様化するキツネの需要に応えてこういうバリエーション作ってくれませんか？🥹

#NLP2026 で3月10日16:55 から以下の発表があります〜 VLM が扱いやすいように文書をいい感じの粒度で分けてあげる話です ぜひお話ししましょう〜！ anlp.jp/proceedings/an…

お部屋に戻るよ〜🐾🐾 #北きつね牧場 #キタキツネ #エゾタヌキ #朝のお散歩

EACL 2026 Findings 採択！ Paper: arxiv.org/abs/2505.14381

@irodori404 ちょうど迷い中

今年も論文生成力をあげていきたい所存

会えるとうれしい “ふゆのきつね”

Warm hugs in a cold world

「雪だ...❄️」 「雪だね」 #北きつね牧場

こぎつね大っきくなってるー🤣 ちっちゃかった頃の面影がうっすらと☺️ #北きつね牧場

中秋の名月

Best-of-∞ という超カッコいい研究が出ました (w/ @jkomiyama_ @dai0NLP) jkomiyama.github.io/bestofinfty/ 専門的な説明は主著の小宮山さんの元ポストをご覧いただくとして、末席を汚す機会を得たので、簡単に紹介をしてみます。 昔からLLMはじめとするモデルの回答精度を（コストはそれなりに度外視で）極限まで高めたい時のテクとして N回推論させてみて、良さげな結果をその中から選ぶ という「Best-of-N戦略」がよく使われます。 最近だとTest-time Compute/Scalingの代表戦略のひとつとして語られることが多いでしょうか。 このとき「どの回答を良さげとみなすか」については、 ・回答の正誤・品質を評価する採点者が採点をしてみたり（LLM-as-a-Judge etc.） ・多数決をしてみたり（Majority Voting） などがありました。 ここからがポイントなのですが、真面目に計算をしてみると、単純に見える「多数決」は実はかなり強いことが多いです。 添付画像のように、モデルに何回も同じ問題を解かせて多数決を取ると、回答数 N を増やすほど性能は高まりがち、という結果が得られることが多いです。 ということで、あるモデルの回答品質を高めたいのであれば、とにかく同じ問題を何度も解かせると良さそう。 グラフを見ていても割といい感じの伸びが見られるので、欲を言えば「無限」に解かせて、その多数決を取ると良さそうです。 他方、現実には一つのLLM推論にはバカにならないコストがかかるため、無尽蔵に何度も同じ問題を解かせるのは賢い戦略とはいえません（もっといえば、昨今この１つの推論は長い長い chain of thought の必要な reasoning model でやることが多く、１推論でも立派なコストがかかります）。 今回の研究はこの「とにかくたくさん推論をして多数決を取る」という Best-of-∞ を考え あるひとつのモデルに∞に推論させた時の多数決結果は、現実的な回数の推論で統計的に近似できる ということを明らかにしました。 モデルに何度も回答をさせるとき、問題によって「明らかにひとつの回答に偏っているケース」と「わりと回答がバラけているケース」というのはあり、前者の場合はわりと早いうちに「この回答になりそう」というのが統計的にわかるので、かなり少ない推論回数で済むわけです（ベイズ因子）。 また、現実にはあるひとつのモデルだけではなく、複数の特性の違うモデルを使っても良いわけです。そこで特性の違うモデルを混ぜこぜにして∞に推論させた時の結果ってどうなるの？　というのも調べると、 複数の特性の違うモデルに∞に推論させるときには「良い感じの混ぜ方」があり、その最適な混ぜ方は（∞に飛ばす設定を考えることで）現実的な混合整数計画問題で求められる ということが明らかになりました。 理論的に綺麗かつ実用的ということで、非常に良い方式だと思います。 数学のようにアカデミックな問題だけでなく、たとえばさまざまな実世界エージェントの行動空間は有限なことが多く、多数決によるBest-of-Nは実用的にもかなり効いてきました。 そこに Best-of-∞ という見通しを与えられたのはデカい！

ぴょこん

雪に埋もれたいチョーギ広報部長 #北きつね牧場