「ニューラルネットワークの本質について良い知らせがあると思う。」AIスタートアップGoodfireの研究者であるNick Cammarataは、その楽観的な簡単な言葉で、AI業界をひっくり返す26,000語のブログ記事を書き始め、荒唐無稽な憶測と慎重な(そしてあまり慎重でない)祝賀の声を引き起こした。Cammarataの主張は…
記事を読むTHE AI NEWSROOM
AIニュース
今日は、AI、テクノロジー、プライバシーについて多くの考えを持つイリノイ州知事JB Pritzkerと話をしています。番組を聴いている方ならご存じの通り、私が提唱し続けている理論の一つは、これらの問題が大きく、そしておそらく予想外の政治的な再編を引き起こしているというものです。そして中間選挙が近づく中で[…]
記事を読むAIセキュリティ企業Norforgeの調査結果によると、ハッカーが主に自律的に動作するAIエージェントの軍団を使って100以上のウェブサイトに侵入した。Norforgeは標的の名前を明かしていないが、ロイターは被害者にJohn Deere、SharkNinja、Cumminsなどの企業が含まれていたと報じている。AIを活用したサイバーセキュリティ侵害への懸念が高まっている[…]
記事を読む本日ベルリンで開催されたクリエイティブ業界のイベント — Adobe、Bertelsmann、NVIDIA、UFAとの協力で主催 — では、インテリジェントメディアの最新の進歩が展示された。ニュースの要点:欧州放送連合(EBU)はNVIDIAと協力し、クラウド、オープンモデル、統合によってその主権的フレームワークを拡大している […]
記事を読むDeepgramはAWS Forward Deployed Engineeringチームと協力し、Nova-3音声認識モデルをオフラインバッチ推論用にAWS Trainium2へ移植しました。本記事では、AWS Neuronスタックへの移植、カーネルレベルのチューニング、データ並列Rustランタイム、そしてバッチ文字起こしにおけるスループットとコストの結果について解説します。
記事を読むvLLMのprefill-decode分離はLLM推論をエンジンインスタンス間に分割しますが、それらの間でKVキャッシュを転送する必要があります。この記事では、転送の調整をクリティカルパスから外すプッシュベースのNIXLコネクタを紹介します。AWS EFAを備えたAmazon EC2 P5enインスタンスでのベンチマークでは、最大3倍優れたTTFTと30%優れたTPOTを実現します。
記事を読むマルチターンのエージェント型ワークロードでは、各ターンで増大する会話コンテキストを再処理するため、レイテンシが増加します。双方向KVキャッシュ転送により、prefillノードとdecodeノードがターンをまたいで以前に計算されたコンテキストを再利用できる仕組みをご覧ください。これにより、EFAを備えたAmazon EC2 P5enインスタンス上で、最初のトークンまでの時間がQwen3-32Bでは最大1.6倍、GLM-5-FP8では3.3倍短縮されます。
記事を読む広告や追跡、動作の遅いインターフェースにうんざりした一部のスマートテレビ所有者は、AIエージェントを使って不要なソフトウェアを取り除き、テレビの制御を取り戻そうとしている。
記事を読むNvidiaは、企業が自社のデータセンターで独自のオープンモデルを実行したいというトレンドに強く傾注しており、オンデバイスのプライベートAIエージェントを普及させようともしている。
記事を読む