2026-06-22 · 6 topics
研究チーム、オープンソースの世界モデル DVD-JEPA を公開──JEPA アーキテクチャの完全再現を可能に
🔥🔥Meta の V-JEPA 概念を継承し、離散トークンを用いたビデオ予測により、ピクセル生成を介さない効率的な世界理解と物理法則の学習をオープンな環境で実現した。
個人開発者、Softmax-free Attention 採用の 3.5 億パラモデルを公開──VRAM 消費を抑えた長文脈推論を実現
🔥🔥構造的スパース性と Triton カーネルによる Tile-skipping を組み合わせ、GPT-2 Medium 規模で Softmax 不要の Attention 機構を実証した。
哺乳類の部位再生能力は「消失」ではなく「休眠」状態──特定の遺伝子スイッチによる再生制御メカニズムを解明
🔥従来は失われたと考えられていた哺乳類の四肢再生能力が、実は遺伝子レベルで抑制されているだけであり、特定の分子経路を操作することで再活性化できることを突き止めた。
ML博士課程の卒業要件に『トップ会議論文』は必須か──研究の本質的評価と査読ガチャのジレンマ
🔥トップ会議への採択を卒業の絶対条件とすべきか、研究の質で判断すべきかを問うコミュニティ議論。(原題: Would you let an ML PhD student graduate without a top-tier paper?)
幾何代数(Geometric Algebra)への批判的考察──幾何積の限界と主流数学との乖離を指摘
🔥物理学やCGで注目される幾何代数に対し、幾何積の特権化やコミュニティの排他性が普及を妨げているとする理論的・文化的批判。
コミュニティ、Qwopus-3.6-27B-Coder を公開──SWE-bench で解決率 67.0% を記録
🔥Claude-4.7-Max の回答から思考プロセスを逆生成する Trace Inversion 手法により、27B サイズで商用モデル級のコーディング性能を実現した。