THE AI NEWSROOM

AIニュース

367公開記事
ニュース
「私たちはそれを間違って見ていた」:AI業界を揺るがす爆発的な主張

「ニューラルネットワークの本質について良い知らせがあると思う。」AIスタートアップGoodfireの研究者であるNick Cammarataは、その楽観的な簡単な言葉で、AI業界をひっくり返す26,000語のブログ記事を書き始め、荒唐無稽な憶測と慎重な(そしてあまり慎重でない)祝賀の声を引き起こした。Cammarataの主張は…

記事を読む
ニュース
JB PritzkerはAIが私たちを100歳まで生きられるようにするかもしれない——あるいは核兵器のように私たちを脅かすかもしれないと考えている

今日は、AI、テクノロジー、プライバシーについて多くの考えを持つイリノイ州知事JB Pritzkerと話をしています。番組を聴いている方ならご存じの通り、私が提唱し続けている理論の一つは、これらの問題が大きく、そしておそらく予想外の政治的な再編を引き起こしているというものです。そして中間選挙が近づく中で[…]

記事を読む
ニュース
ハッカーがAIエージェントの軍団でJohn DeereとSharkNinjaに侵入

AIセキュリティ企業Norforgeの調査結果によると、ハッカーが主に自律的に動作するAIエージェントの軍団を使って100以上のウェブサイトに侵入した。Norforgeは標的の名前を明かしていないが、ロイターは被害者にJohn Deere、SharkNinja、Cumminsなどの企業が含まれていたと報じている。AIを活用したサイバーセキュリティ侵害への懸念が高まっている[…]

記事を読む
ニュース
NVIDIA、メディア向けエージェント型セキュリティを進化、欧州公共放送からグローバルコンテンツ制作まで

本日ベルリンで開催されたクリエイティブ業界のイベント — Adobe、Bertelsmann、NVIDIA、UFAとの協力で主催 — では、インテリジェントメディアの最新の進歩が展示された。ニュースの要点:欧州放送連合(EBU)はNVIDIAと協力し、クラウド、オープンモデル、統合によってその主権的フレームワークを拡大している […]

記事を読む
ニュース
DeepgramはAWS Trainiumで大規模な音声AIをどのように最適化したか

DeepgramはAWS Forward Deployed Engineeringチームと協力し、Nova-3音声認識モデルをオフラインバッチ推論用にAWS Trainium2へ移植しました。本記事では、AWS Neuronスタックへの移植、カーネルレベルのチューニング、データ並列Rustランタイム、そしてバッチ文字起こしにおけるスループットとコストの結果について解説します。

記事を読む
ニュース
vLLMの分離推論においてTTFTとTPOTを改善するためのプッシュベースのKV転送

vLLMのprefill-decode分離はLLM推論をエンジンインスタンス間に分割しますが、それらの間でKVキャッシュを転送する必要があります。この記事では、転送の調整をクリティカルパスから外すプッシュベースのNIXLコネクタを紹介します。AWS EFAを備えたAmazon EC2 P5enインスタンスでのベンチマークでは、最大3倍優れたTTFTと30%優れたTPOTを実現します。

記事を読む
ニュース
vLLMでの双方向KV転送によるマルチターンエージェントワークロードのTTFT改善

マルチターンのエージェント型ワークロードでは、各ターンで増大する会話コンテキストを再処理するため、レイテンシが増加します。双方向KVキャッシュ転送により、prefillノードとdecodeノードがターンをまたいで以前に計算されたコンテキストを再利用できる仕組みをご覧ください。これにより、EFAを備えたAmazon EC2 P5enインスタンス上で、最初のトークンまでの時間がQwen3-32Bでは最大1.6倍、GLM-5-FP8では3.3倍短縮されます。

記事を読む