Hacker News<p>Compiling LLMs into a MegaKernel: A Path to Low-Latency Inference</p><p><a href="https://zhihaojia.medium.com/compiling-llms-into-a-megakernel-a-path-to-low-latency-inference-cf7840913c17" rel="nofollow noopener" translate="no" target="_blank"><span class="invisible">https://</span><span class="ellipsis">zhihaojia.medium.com/compiling</span><span class="invisible">-llms-into-a-megakernel-a-path-to-low-latency-inference-cf7840913c17</span></a></p><p><a href="https://mastodon.social/tags/HackerNews" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>HackerNews</span></a> <a href="https://mastodon.social/tags/CompilingLLMs" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>CompilingLLMs</span></a> <a href="https://mastodon.social/tags/MegaKernel" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>MegaKernel</span></a> <a href="https://mastodon.social/tags/LowLatency" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>LowLatency</span></a> <a href="https://mastodon.social/tags/Inference" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Inference</span></a> <a href="https://mastodon.social/tags/MachineLearning" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>MachineLearning</span></a> <a href="https://mastodon.social/tags/AI" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>AI</span></a></p>
mastodontech.de ist einer von vielen unabhängigen Mastodon-Servern, mit dem du dich im Fediverse beteiligen kannst.
Offen für alle (über 16) und bereitgestellt von Markus'Blog
Verwaltet von:
Serverstatistik:
1,5 Tsd.aktive Profile
mastodontech.de: Über · Status · Profilverzeichnis · Datenschutzerklärung
Mastodon: Über · App herunterladen · Tastenkombinationen · Quellcode anzeigen · v4.4.1
#megakernel
0 Beiträge · 0 Beteiligte · 0 Beiträge heute
Hacker News<p>Look Ma, No Bubbles Designing a Low-Latency Megakernel for Llama-1B</p><p><a href="https://hazyresearch.stanford.edu/blog/2025-05-27-no-bubbles" rel="nofollow noopener" translate="no" target="_blank"><span class="invisible">https://</span><span class="ellipsis">hazyresearch.stanford.edu/blog</span><span class="invisible">/2025-05-27-no-bubbles</span></a></p><p><a href="https://mastodon.social/tags/HackerNews" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>HackerNews</span></a> <a href="https://mastodon.social/tags/Look" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Look</span></a> <a href="https://mastodon.social/tags/Ma" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Ma</span></a> <a href="https://mastodon.social/tags/No" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>No</span></a> <a href="https://mastodon.social/tags/Bubbles" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Bubbles</span></a> <a href="https://mastodon.social/tags/Low" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Low</span></a> <a href="https://mastodon.social/tags/Latency" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Latency</span></a> <a href="https://mastodon.social/tags/Megakernel" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Megakernel</span></a> <a href="https://mastodon.social/tags/Llama1B" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>Llama1B</span></a> <a href="https://mastodon.social/tags/HazyResearch" class="mention hashtag" rel="nofollow noopener" target="_blank">#<span>HazyResearch</span></a></p>
AngesagtLive-Feeds
Mastodon ist der beste Zugang, um auf dem Laufenden zu bleiben.
Du kannst jedem im Fediverse folgen und alles in chronologischer Reihenfolge sehen. Keine Algorithmen, Werbung oder Clickbaits vorhanden.
Konto erstellenAnmeldenZum Hochladen hereinziehen