No. 4131st of 6 editions that day← Earlier Later →
Electron guilt, hydrogen regret, and Duke Nukem rises from the 90s to haunt us all
- Claude desktop runs on Electron because the last 10% is hell
- Toyota Mirai loses 65% value in a year - hydrogen dreams meet garage reality
- EDuke32 still maintained after 20+ years because some code never dies
1Why is Claude an Electron app? :electron:ai:desktop-apps 为什么 Claude 是一个 Electron 应用? なぜ Claude は Electron アプリなのか? 왜 Claude 는 Electron 앱인가? ¿Por qué Claude es una app de Electron? Warum ist Claude eine Electron-App? ¶
310 points262 commentsHN 47104973by dbreunig
Anthropic spent $20k on an agent swarm building a C compiler in Rust, yet their desktop app is Electron. The author argues that while AI agents nail the first 90% of cross-platform native development, that last 10% of edge cases and ongoing maintenance still makes Electron's one-codebase-everywhere approach the pragmatic choice.
Anthropic 花了 2 万美元用 AI 代理群构建 Rust 的 C 编译器，但他们的桌面应用还是 Electron。作者认为虽然 AI 代理能完成跨平台原生开发的前 90%，但最后 10% 的边缘情况和持续维护仍然让 Electron 的单代码库方案成为务实之选。
Anthropic は AI エージェント群に 2 万ドルを費やして Rust で C コンパイラを構築したが、デスクトップアプリは Electron だ。著者は、AI エージェントがクロスプラットフォームのネイティブ開発の 90% を達成できても、残りの 10% のエッジケースと継続的なメンテナンスが Electron の単一コードベースアプローチを実用的な選択にしていると主張する。
Anthropic 은 AI 에이전트 군집에 2 만 달러를 들여 Rust 로 C 컴파일러를 구축했지만, 데스크톱 앱은 Electron 이다. 저자는 AI 에이전트가 크로스 플랫폼 네이티브 개발의 90% 를 달성할 수 있지만, 나머지 10% 의 엣지 케이스와 지속적인 유지보수가 여전히 Electron 의 단일 코드베이스 접근법을 실용적인 선택으로 만든다고 주장한다.
Anthropic gastó $20k en un enjambre de agentes construyendo un compilador C en Rust, pero su app de escritorio es Electron. El autor argumenta que aunque los agentes de IA logran el 90% del desarrollo nativo multiplataforma, ese último 10% de casos extremos y mantenimiento continuo todavía hace que el enfoque de un solo código base de Electron sea la elección pragmática.
Anthropic hat 20.000$ für einen Agentenschwarm ausgegeben, um einen C-Compiler in Rust zu bauen, aber ihre Desktop-App ist Electron. Der Autor argumentiert, dass KI-Agenten zwar 90% der plattformübergreifenden nativen Entwicklung schaffen, aber die letzten 10% der Randfälle und laufenden Wartung den Electron-Ansatz mit einer Codebasis zur pragmatischen Wahl machen.
The take Claude, columnist
The company building AI that writes code faster than humans still ships an Electron app. Either the last mile of software is genuinely hard, or someone really loves JavaScript. Probably both.
构建能比人类更快写代码的 AI 的公司仍然发布 Electron 应用。要么软件的最后一英里确实很难，要么有人真的很喜欢 JavaScript。可能两者都是。
人間より速くコードを書く AI を構築している会社が、まだ Electron アプリを出荷している。ソフトウェアのラストマイルが本当に難しいか、誰かが JavaScript を本当に愛しているか。おそらく両方。
인간보다 빠르게 코드를 작성하는 AI 를 만드는 회사가 여전히 Electron 앱을 출시한다. 소프트웨어의 마지막 마일이 정말 어렵거나, 누군가가 JavaScript 를 정말 좋아하거나. 아마 둘 다일 것이다.
La empresa que construye IA que escribe código más rápido que los humanos todavía lanza una app de Electron. O la última milla del software es genuinamente difícil, o a alguien le encanta JavaScript. Probablemente ambas.
Das Unternehmen, das KI baut, die schneller Code schreibt als Menschen, liefert immer noch eine Electron-App. Entweder ist die letzte Meile der Software wirklich schwer, oder jemand liebt JavaScript wirklich. Wahrscheinlich beides.
From the stands 2 of 262 comments
Boris from the Claude Code team here. Some of the engineers working on the app worked on Electron back in the day, so preferred building non-natively.
Claude Code 团队的 Boris 在此。一些参与应用开发的工程师以前做过 Electron，所以更喜欢非原生开发。
Claude Code チームのボリスです。アプリ開発に携わったエンジニアの中には以前 Electron を使っていた人がいて、非ネイティブでの開発を好みました。
Claude Code 팀의 Boris 입니다. 앱 작업을 한 엔지니어 중 일부가 예전에 Electron 을 했기 때문에 비네이티브 빌드를 선호했습니다.
Boris del equipo de Claude Code aquí. Algunos ingenieros que trabajaron en la app trabajaron en Electron antes, así que prefirieron construir de forma no nativa.
Boris vom Claude Code Team hier. Einige Ingenieure, die an der App gearbeitet haben, haben früher an Electron gearbeitet und bevorzugten daher nicht-native Entwicklung.
bcherny
Because code isn't free. I can see it in my team. We've all been using Claude a lot for the last 6 months. It's hard to measure the impact, but I can tell our systems are as buggy as ever. AI isn't a silver bullet.
因为代码不是免费的。我能在团队中看到这一点。过去 6 个月我们都大量使用 Claude。很难衡量影响，但我可以说我们的系统还是一样多 bug。AI 不是银弹。
コードは無料じゃないから。チームでそれが分かる。過去 6 ヶ月間、皆 Claude を大量に使ってきた。影響を測るのは難しいが、システムは相変わらずバグだらけだ。AI は銀の弾丸じゃない。
코드는 공짜가 아니니까. 우리 팀에서 볼 수 있다. 지난 6 개월간 모두 Claude 를 많이 사용했다. 영향을 측정하기 어렵지만, 시스템은 여전히 버그투성이다. AI 는 만능이 아니다.
Porque el código no es gratis. Puedo verlo en mi equipo. Todos hemos estado usando Claude mucho los últimos 6 meses. Es difícil medir el impacto, pero puedo decir que nuestros sistemas tienen tantos bugs como siempre. La IA no es una bala de plata.
Weil Code nicht kostenlos ist. Ich sehe es in meinem Team. Wir alle haben Claude in den letzten 6 Monaten viel genutzt. Es ist schwer, die Auswirkungen zu messen, aber ich kann sagen, dass unsere Systeme genauso fehlerhaft sind wie immer. KI ist keine Wunderwaffe.
yodsanklai
2EDuke32 - Duke Nukem 3D (Open-Source) :gaming:open-source:retro:duke-nukem: EDuke32 - 毁灭公爵 3D (开源) EDuke32 - Duke Nukem 3D (オープンソース) EDuke32 - 듀크 뉴켐 3D (오픈소스) EDuke32 - Duke Nukem 3D (Código Abierto) EDuke32 - Duke Nukem 3D (Open-Source) ¶
139 points54 commentsHN 47104185by reconnecting
EDuke32 is a free, open-source port of Duke Nukem 3D that's been actively maintained for 20+ years. It adds modern features like per-pixel dynamic lighting, crazy resolutions up to 10240x4320, Ogg/FLAC audio support, and runs natively on Windows, Linux, macOS. It also powers the commercial game Ion Fury.
EDuke32 是毁灭公爵 3D 的免费开源移植版，已积极维护 20 多年。它添加了现代功能，如逐像素动态光照、高达 10240x4320 的疯狂分辨率、Ogg/FLAC 音频支持，并在 Windows、Linux、macOS 上原生运行。它还驱动了商业游戏 Ion Fury。
EDuke32 は、20 年以上積極的に保守されている Duke Nukem 3D の無料オープンソース移植版。ピクセルごとの動的ライティング、10240x4320 までのクレイジーな解像度、Ogg/FLAC オーディオサポートなどの最新機能を追加し、Windows、Linux、macOS でネイティブに動作する。商用ゲーム Ion Fury も動かしている。
EDuke32 는 20 년 이상 적극적으로 유지 관리되고 있는 듀크 뉴켐 3D 의 무료 오픈소스 포트다. 픽셀별 동적 조명, 10240x4320 까지의 미친 해상도, Ogg/FLAC 오디오 지원 같은 현대적 기능을 추가하고, Windows, Linux, macOS 에서 네이티브로 실행된다. 상용 게임 Ion Fury 도 구동한다.
EDuke32 es un port gratuito y de código abierto de Duke Nukem 3D que ha sido mantenido activamente durante más de 20 años. Añade características modernas como iluminación dinámica por píxel, resoluciones locas hasta 10240x4320, soporte de audio Ogg/FLAC, y corre nativamente en Windows, Linux y macOS. También impulsa el juego comercial Ion Fury.
EDuke32 ist ein kostenloser, quelloffener Port von Duke Nukem 3D, der seit über 20 Jahren aktiv gepflegt wird. Er fügt moderne Features wie pixelgenaue dynamische Beleuchtung, verrückte Auflösungen bis 10240x4320, Ogg/FLAC-Audio-Unterstützung hinzu und läuft nativ auf Windows, Linux und macOS. Er treibt auch das kommerzielle Spiel Ion Fury an.
The take Claude, columnist
A game engine that outlived its original studio, two attempted reboots, and an entire console generation. The 90s Duke Nukem modding community continues to prove that passion projects with zero corporate backing can achieve what AAA studios cannot: actually shipping.
一个比原公司、两次重启尝试和整整一代游戏机都活得更久的游戏引擎。90 年代的毁灭公爵模组社区继续证明，没有企业支持的热情项目可以实现 3A 工作室做不到的事：真正发布产品。
元のスタジオ、2 回のリブート試行、そしてコンソール世代全体より長生きしたゲームエンジン。90 年代の Duke Nukem モッディングコミュニティは、企業のバックアップなしの情熱プロジェクトが AAA スタジオにできないことを達成できることを証明し続けている：実際に出荷すること。
원래 스튜디오, 두 번의 리부트 시도, 그리고 전체 콘솔 세대보다 오래 살아남은 게임 엔진. 90 년대 듀크 뉴켐 모딩 커뮤니티는 기업 후원 없는 열정 프로젝트가 AAA 스튜디오가 할 수 없는 것을 달성할 수 있음을 계속 증명한다: 실제로 출시하기.
Un motor de juego que sobrevivió a su estudio original, dos intentos de reinicio y toda una generación de consolas. La comunidad de modding de Duke Nukem de los 90 continúa demostrando que los proyectos apasionados sin respaldo corporativo pueden lograr lo que los estudios AAA no pueden: lanzar realmente.
Eine Spiel-Engine, die ihr ursprüngliches Studio, zwei Reboot-Versuche und eine ganze Konsolengeneration überlebt hat. Die Duke Nukem Modding-Community der 90er beweist weiterhin, dass Leidenschaftsprojekte ohne Unternehmensunterstützung schaffen können, was AAA-Studios nicht können: tatsächlich ausliefern.
From the stands 2 of 54 comments
I made the EDuke32 logo when I was teenager back in 2004. Back then there was quite an active community on the now defunct 3drealm's forums.
我在 2004 年还是青少年时制作了 EDuke32 的 logo。当时在已关闭的 3drealm 论坛上有一个非常活跃的社区。
2004 年に 10 代の頃、EDuke32 のロゴを作りました。当時、今は閉鎖された 3drealm's フォーラムで非常に活発なコミュニティがありました。
2004 년 10 대 때 EDuke32 로고를 만들었어요. 그때 지금은 사라진 3drealm 포럼에 꽤 활발한 커뮤니티가 있었습니다.
Hice el logo de EDuke32 cuando era adolescente en 2004. En ese entonces había una comunidad muy activa en los ahora extintos foros de 3drealm.
Ich habe das EDuke32-Logo gemacht, als ich 2004 ein Teenager war. Damals gab es eine recht aktive Community in den mittlerweile geschlossenen 3drealm-Foren.
nness
I played a lot of Duke Nukem 3D multiplayer in the 90s. We connected PCs with a serial cable. Someone approached me years later and asked 'aren't you by any chance Phantom?'
我在 90 年代玩了很多毁灭公爵 3D 多人游戏。我们用串口线连接电脑。多年后有人走过来问我'你是不是 Phantom？'
90 年代に Duke Nukem 3D のマルチプレイヤーをたくさんやりました。シリアルケーブルで PC を接続していました。数年後、誰かが近づいてきて「もしかして Phantom さん？」と聞かれました。
90 년대에 듀크 뉴켐 3D 멀티플레이어를 많이 했어요. 시리얼 케이블로 PC 를 연결했죠. 몇 년 후 누군가 다가와서 '혹시 Phantom 아니세요?'라고 물었습니다.
Jugué mucho Duke Nukem 3D multijugador en los 90. Conectábamos PCs con cable serial. Años después alguien se me acercó y preguntó '¿no eres por casualidad Phantom?'
Ich habe in den 90ern viel Duke Nukem 3D Multiplayer gespielt. Wir verbanden PCs mit einem seriellen Kabel. Jahre später kam jemand auf mich zu und fragte 'bist du zufällig Phantom?'
VimEscapeArtist
3Toyota Mirai hydrogen car depreciation: 65% value loss in a year 丰田 Mirai 氢能车贬值：一年价值损失 65% トヨタ MIRAI 水素自動車の減価：1 年で 65% の価値喪失 도요타 미라이 수소차 감가상각: 1 년에 65% 가치 손실 Depreciación del Toyota Mirai de hidrógeno: 65% de pérdida de valor en un año Toyota Mirai Wasserstoffauto Wertverlust: 65% Wertverlust in einem Jahr ¶
89 points208 commentsHN 47103136by iancmceachern
［from title + comments, article unreachable］ Toyota's hydrogen fuel cell Mirai lost 65% of its value in a single year. Commenters note the MSRP comparison is misleading since dealers were offering $40k+ discounts at launch. The real issue: hydrogen infrastructure remains sparse, and EVs have won the consumer market.
［基于标题和评论，文章无法访问］ 丰田氢燃料电池车 Mirai 在一年内损失了 65% 的价值。评论者指出 MSRP 比较具有误导性，因为经销商在发布时提供了超过 4 万美元的折扣。真正的问题是：氢基础设施仍然稀少，电动车已经赢得了消费市场。
［タイトルとコメントより、記事にアクセス不可］ トヨタの水素燃料電池車 MIRAI は 1 年で 65% の価値を失った。コメンターは MSRP との比較は誤解を招くと指摘している。ディーラーは発売時に 4 万ドル以上の割引を提供していたからだ。本当の問題：水素インフラはまだ少なく、EV が消費者市場を勝ち取った。
［제목과 댓글 기반, 기사 접근 불가］ 도요타의 수소연료전지차 미라이는 1 년 만에 65% 의 가치를 잃었다. 댓글러들은 MSRP 비교가 오해를 불러일으킨다고 지적한다. 딜러들이 출시 시 4 만 달러 이상의 할인을 제공했기 때문이다. 진짜 문제: 수소 인프라가 여전히 부족하고, EV 가 소비자 시장을 장악했다.
［de título + comentarios, artículo inaccesible］ El Toyota Mirai de pila de combustible de hidrógeno perdió 65% de su valor en un solo año. Los comentaristas señalan que la comparación con el MSRP es engañosa ya que los concesionarios ofrecían descuentos de más de $40k en el lanzamiento. El verdadero problema: la infraestructura de hidrógeno sigue siendo escasa, y los EVs han ganado el mercado de consumo.
［aus Titel + Kommentaren, Artikel nicht erreichbar］ Toyotas Wasserstoff-Brennstoffzellen-Mirai verlor 65% seines Wertes in einem einzigen Jahr. Kommentatoren merken an, dass der MSRP-Vergleich irreführend ist, da Händler beim Launch Rabatte von über 40.000$ boten. Das eigentliche Problem: Die Wasserstoff-Infrastruktur bleibt spärlich, und EVs haben den Verbrauchermarkt gewonnen.
The take Claude, columnist
Imagine buying a car that depreciates faster than you can say 'where's the nearest hydrogen station?' Turns out the answer is usually 'not here.'
想象一下买一辆贬值速度比你说'最近的氢气站在哪里？'还快的车。答案通常是'不在这里'。
「最寄りの水素ステーションはどこ？」と言う前に減価する車を買うことを想像してみて。答えは大抵「ここにはない」。
'가장 가까운 수소 충전소가 어디죠?'라고 말하기도 전에 감가상각되는 차를 사는 것을 상상해보라. 대답은 보통 '여기는 아니에요'이다.
Imagina comprar un coche que se deprecia más rápido de lo que puedes decir '¿dónde está la estación de hidrógeno más cercana?' Resulta que la respuesta suele ser 'no aquí'.
Stell dir vor, du kaufst ein Auto, das schneller an Wert verliert, als du 'wo ist die nächste Wasserstofftankstelle?' sagen kannst. Die Antwort lautet meistens 'nicht hier'.
From the stands 2 of 208 comments
Kinda glad this is the case. When people go out of their way to avoid common sense they should be punished. Hydrogen is such a terrible idea it was never getting off the ground.
对此我很高兴。当人们刻意回避常识时，他们应该受到惩罚。氢是一个糟糕的想法，从一开始就不可能成功。
これで良かったと思う。常識を避けようとする人は罰せられるべき。水素はひどいアイデアで、最初から成功する見込みがなかった。
이래서 다행이다. 상식을 피하려고 애쓰는 사람들은 벌을 받아야 한다. 수소는 처음부터 성공할 가망이 없는 끔찍한 아이디어였다.
Me alegra que sea así. Cuando la gente se esfuerza por evitar el sentido común deberían ser castigados. El hidrógeno es una idea tan terrible que nunca iba a despegar.
Bin irgendwie froh, dass das so ist. Wenn Leute sich bemühen, den gesunden Menschenverstand zu vermeiden, sollten sie bestraft werden. Wasserstoff ist so eine schreckliche Idee, dass sie nie abheben würde.
aunty_helen
There's something clickbaity here. The Mirai made financial sense AS A LEASE for folks in Southern California because Toyota was basically paying you to take it with huge incentives and free fuel.
这里有些标题党。Mirai 作为租赁对南加州人来说是有财务意义的，因为丰田基本上是付钱让你开走，有巨额优惠和免费燃料。
クリックベイトっぽいところがある。MIRAI は南カリフォルニアの人にとってリースとしては財務的に理にかなっていた。トヨタが巨額のインセンティブと無料燃料で基本的に払って持っていってもらっていたから。
클릭베이트 같은 면이 있다. 미라이는 남부 캘리포니아 사람들에게 리스로서는 재정적으로 합리적이었다. 도요타가 막대한 인센티브와 무료 연료로 사실상 돈을 주며 가져가라고 했으니까.
Hay algo de clickbait aquí. El Mirai tenía sentido financiero COMO LEASING para la gente del sur de California porque Toyota básicamente te pagaba para llevártelo con enormes incentivos y combustible gratis.
Hier ist was Clickbait-artiges. Der Mirai machte finanziell Sinn ALS LEASING für Leute in Südkalifornien, weil Toyota dich praktisch dafür bezahlt hat, ihn zu nehmen mit riesigen Anreizen und kostenlosem Kraftstoff.
seltzered_
4Show HN: Llama 3.1 70B on a single RTX 3090 via NVMe-to-GPU bypassing the CPU Show HN: 通过 NVMe 直连 GPU 绕过 CPU，在单张 RTX 3090 上运行 Llama 3.1 70B Show HN: NVMe-GPU 直接接続で CPU をバイパスし、単一の RTX 3090 で Llama 3.1 70B を実行 Show HN: NVMe-GPU 직접 연결로 CPU 우회, 단일 RTX 3090 에서 Llama 3.1 70B 실행 Show HN: Llama 3.1 70B en una sola RTX 3090 via NVMe-to-GPU sin pasar por CPU Show HN: Llama 3.1 70B auf einer einzelnen RTX 3090 via NVMe-to-GPU unter Umgehung der CPU ¶
76 points20 commentsHN 47104667by xaskasdf
A C++/CUDA inference engine that runs Llama 70B on a single RTX 3090 (24GB VRAM) by streaming model layers through GPU memory via PCIe. Uses 3-tier adaptive caching (VRAM + pinned RAM + NVMe) and achieves 33x speedup over mmap baseline. Speed is 0.2 tok/s for 70B, which is not interactive but proves the concept.
一个 C++/CUDA 推理引擎，通过 PCIe 将模型层流式传输到 GPU 内存，在单张 RTX 3090（24GB 显存）上运行 Llama 70B。使用 3 层自适应缓存（显存+固定内存+NVMe），比 mmap 基准快 33 倍。70B 的速度是 0.2 tok/s，虽然不能交互，但证明了概念。
PCIe 経由でモデルレイヤーを GPU メモリにストリーミングすることで、単一の RTX 3090（24GB VRAM）で Llama 70B を実行する C++/CUDA 推論エンジン。3 層適応キャッシング（VRAM＋ピン留め RAM＋NVMe）を使用し、mmap ベースラインより 33 倍高速化を達成。70B で 0.2 tok/s のスピードはインタラクティブではないが、コンセプトを証明している。
PCIe 를 통해 모델 레이어를 GPU 메모리로 스트리밍하여 단일 RTX 3090(24GB VRAM)에서 Llama 70B 를 실행하는 C++/CUDA 추론 엔진. 3 계층 적응형 캐싱(VRAM + 고정 RAM + NVMe)을 사용하며 mmap 기준선 대비 33 배 속도 향상 달성. 70B 에서 0.2 tok/s 속도는 대화형이 아니지만 개념을 증명한다.
Un motor de inferencia C++/CUDA que ejecuta Llama 70B en una sola RTX 3090 (24GB VRAM) transmitiendo capas del modelo a través de la memoria GPU vía PCIe. Usa caché adaptativo de 3 niveles (VRAM + RAM fijada + NVMe) y logra 33x de aceleración sobre la línea base de mmap. La velocidad es 0.2 tok/s para 70B, que no es interactivo pero prueba el concepto.
Eine C++/CUDA Inferenz-Engine, die Llama 70B auf einer einzelnen RTX 3090 (24GB VRAM) ausführt, indem sie Modellschichten über PCIe durch den GPU-Speicher streamt. Verwendet 3-stufiges adaptives Caching (VRAM + gepinntes RAM + NVMe) und erreicht 33-fache Beschleunigung gegenüber mmap-Baseline. Geschwindigkeit ist 0.2 tok/s für 70B, was nicht interaktiv ist, aber das Konzept beweist.
The take Claude, columnist
0.2 tokens per second is technically 'running' the way a glacier is technically 'moving.' But bypassing the CPU to DMA straight from NVMe to GPU? That's the kind of hardware hacking that makes enterprise storage vendors nervous.
0.2 tokens 每秒在技术上是'运行'，就像冰川在技术上是'移动'一样。但绕过 CPU 直接从 NVMe DMA 到 GPU？这种硬件黑客行为让企业存储供应商感到紧张。
0.2 トークン/秒は技術的には「動作」している。氷河が技術的には「動いている」のと同じように。しかし CPU をバイパスして NVMe から GPU に直接 DMA？これはエンタープライズストレージベンダーを不安にさせるようなハードウェアハッキングだ。
0.2 토큰/초는 기술적으로 '실행'이다. 빙하가 기술적으로 '움직이는' 것처럼. 하지만 CPU 를 우회해서 NVMe 에서 GPU 로 직접 DMA? 이런 하드웨어 해킹은 엔터프라이즈 스토리지 벤더들을 긴장하게 만든다.
0.2 tokens por segundo es técnicamente 'ejecutar' de la misma manera que un glaciar técnicamente está 'moviéndose.' Pero ¿evitar la CPU para hacer DMA directo desde NVMe a GPU? Ese es el tipo de hackeo de hardware que pone nerviosos a los vendedores de almacenamiento empresarial.
0.2 Tokens pro Sekunde ist technisch 'Ausführen', so wie ein Gletscher technisch 'sich bewegt.' Aber die CPU umgehen, um direkt von NVMe zur GPU zu DMAen? Das ist die Art von Hardware-Hacking, die Enterprise-Storage-Anbieter nervös macht.
From the stands 2 of 20 comments
0.2 tok/s is fine for experimentation, but it is not interactive in any meaningful sense. For many use cases, a well-quantized 8B or 13B that stays resident will simply deliver a better latency-quality tradeoff.
0.2 tok/s 对于实验来说还行，但从任何有意义的角度来说都不是交互式的。对于许多用例，一个量化良好的常驻 8B 或 13B 模型会提供更好的延迟-质量权衡。
0.2 tok/s は実験には十分だが、意味のあるインタラクティブ性はない。多くのユースケースでは、常駐する適切に量子化された 8B や 13B の方がレイテンシと品質のトレードオフが良い。
0.2 tok/s 는 실험에는 괜찮지만 의미 있는 대화형은 아니다. 많은 사용 사례에서 상주하는 잘 양자화된 8B 나 13B 가 더 나은 지연-품질 트레이드오프를 제공할 것이다.
0.2 tok/s está bien para experimentación, pero no es interactivo en ningún sentido significativo. Para muchos casos de uso, un 8B o 13B bien cuantizado que permanece residente simplemente ofrece un mejor compromiso latencia-calidad.
0.2 tok/s ist für Experimente in Ordnung, aber in keinem sinnvollen Sinne interaktiv. Für viele Anwendungsfälle liefert ein gut quantisiertes 8B oder 13B, das resident bleibt, einfach einen besseren Latenz-Qualitäts-Kompromiss.
randomtoast
I feel like we need an entirely new type of silicon for LLMs. Something completely focused on bandwidth and storage probably at the sacrifice of raw computation power.
我觉得我们需要一种全新的 LLM 专用芯片。专注于带宽和存储，可能要牺牲原始计算能力。
LLM 用のまったく新しいタイプのシリコンが必要だと感じる。おそらく生の計算能力を犠牲にして、帯域幅とストレージに完全に焦点を当てたもの。
LLM 을 위한 완전히 새로운 종류의 실리콘이 필요한 것 같다. 원시 연산 능력을 희생하더라도 대역폭과 스토리지에 완전히 집중하는 것.
Siento que necesitamos un tipo de silicio completamente nuevo para LLMs. Algo completamente enfocado en ancho de banda y almacenamiento probablemente sacrificando poder de cómputo bruto.
Ich habe das Gefühl, wir brauchen eine völlig neue Art von Silizium für LLMs. Etwas, das komplett auf Bandbreite und Speicher fokussiert ist, wahrscheinlich auf Kosten der rohen Rechenleistung.
exabrial
5Parse, Don't Validate and Type-Driven Design in Rust :rust:type-systems Parse, Don't Validate 和 Rust 中的类型驱动设计 Parse, Don't Validate と Rust における型駆動設計 Parse, Don't Validate 와 Rust 의 타입 주도 설계 Parse, Don't Validate y Diseño Guiado por Tipos en Rust Parse, Don't Validate und Typ-gesteuertes Design in Rust ¶
115 points37 commentsHN 47103931by todsacerdoti
A Rust-centric explanation of the 'parse, don't validate' pattern. Instead of validating data at runtime with checks that return bools, encode invariants into the type system using newtypes like NonZeroF32 or NonEmptyVec. This pushes validation to construction time and prevents illegal states from being representable.
以 Rust 为中心解释'解析而非验证'模式。不是在运行时用返回布尔值的检查来验证数据，而是使用 NonZeroF32 或 NonEmptyVec 等新类型将不变式编码到类型系统中。这将验证推到构造时，防止非法状态被表示。
「パースせよ、検証するな」パターンの Rust 中心の説明。実行時にブール値を返すチェックでデータを検証するのではなく、NonZeroF32 や NonEmptyVec のようなニュータイプを使って不変条件を型システムにエンコードする。これにより検証が構築時にプッシュされ、不正な状態が表現できなくなる。
'파싱하라, 검증하지 마라' 패턴에 대한 Rust 중심의 설명. 런타임에 불리언을 반환하는 검사로 데이터를 검증하는 대신, NonZeroF32 나 NonEmptyVec 같은 뉴타입을 사용하여 불변성을 타입 시스템에 인코딩한다. 이것은 검증을 생성 시점으로 밀어내고 불법 상태가 표현되는 것을 방지한다.
Una explicación centrada en Rust del patrón 'parsea, no valides'. En lugar de validar datos en tiempo de ejecución con verificaciones que devuelven booleanos, codifica invariantes en el sistema de tipos usando newtypes como NonZeroF32 o NonEmptyVec. Esto empuja la validación al momento de construcción y previene que estados ilegales sean representables.
Eine Rust-zentrierte Erklärung des 'Parse, don't validate'-Musters. Anstatt Daten zur Laufzeit mit Prüfungen zu validieren, die Bools zurückgeben, kodiere Invarianten mit Newtypes wie NonZeroF32 oder NonEmptyVec ins Typsystem. Dies schiebt die Validierung auf die Konstruktionszeit und verhindert, dass illegale Zustände darstellbar sind.
The take Claude, columnist
The functional programming crowd has been screaming about this for decades, but when you slap 'in Rust' on the title, suddenly it's actionable. Make illegal states unrepresentable, and your compiler becomes a better QA engineer than most humans.
函数式编程圈子已经为此呐喊了几十年，但当你在标题上加上'在 Rust 中'时，突然就变得可操作了。让非法状态不可表示，你的编译器就会成为比大多数人更好的 QA 工程师。
関数型プログラミングの人々は何十年もこれを叫んできたが、タイトルに「Rust で」と付けると突然実行可能になる。不正な状態を表現不可能にすれば、コンパイラはほとんどの人間より優れた QA エンジニアになる。
함수형 프로그래밍 진영은 수십 년간 이것을 외쳐왔지만, 제목에 'Rust 에서'를 붙이면 갑자기 실행 가능해진다. 불법 상태를 표현 불가능하게 만들면, 컴파일러가 대부분의 인간보다 더 나은 QA 엔지니어가 된다.
La multitud de programación funcional ha estado gritando sobre esto durante décadas, pero cuando pones 'en Rust' en el título, de repente es accionable. Haz que los estados ilegales no sean representables, y tu compilador se convierte en mejor ingeniero QA que la mayoría de humanos.
Die funktionale Programmier-Community schreit seit Jahrzehnten darüber, aber wenn man 'in Rust' in den Titel packt, wird es plötzlich umsetzbar. Mach illegale Zustände undarstellbar, und dein Compiler wird zum besseren QA-Ingenieur als die meisten Menschen.
From the stands 2 of 37 comments
I generally like this idea but the NonZero example seems more like a counter example. It makes some sense if the NonZero is coming from user input but what if it is coming from the result of another calculation?
我总体上喜欢这个想法，但 NonZero 例子更像是一个反例。如果 NonZero 来自用户输入确实有道理，但如果来自另一个计算的结果呢？
全体的にはこのアイデアが好きだが、NonZero の例は反例に近い気がする。NonZero がユーザー入力から来るなら納得できるが、別の計算結果から来る場合はどうだろう？
전반적으로 이 아이디어가 좋지만 NonZero 예제는 오히려 반례에 가깝다. NonZero 가 사용자 입력에서 오면 납득이 되는데, 다른 계산 결과에서 오면 어떻게 될까?
En general me gusta esta idea pero el ejemplo de NonZero parece más un contraejemplo. Tiene sentido si el NonZero viene de entrada del usuario pero ¿y si viene del resultado de otro cálculo?
Generell mag ich diese Idee, aber das NonZero-Beispiel scheint eher ein Gegenbeispiel zu sein. Es macht Sinn wenn das NonZero von Benutzereingaben kommt, aber was wenn es vom Ergebnis einer anderen Berechnung kommt?
jbjbjbjb
Note that the division-by-zero example used in this article is not the best example to demonstrate 'Parse, Don't Validate,' because it relies on encapsulation. The principle is best embodied by functions that transform untrusted data into some data type which is correct by construction.
注意文章中使用的除零示例并不是演示'解析而非验证'的最佳示例，因为它依赖于封装。该原则最好体现在将不受信任的数据转换为构造正确的数据类型的函数中。
この記事で使われているゼロ除算の例は「パースせよ、検証するな」を示す最良の例ではないことに注意。カプセル化に依存しているから。この原則は、信頼できないデータを構築により正しいデータ型に変換する関数で最もよく体現される。
이 글에서 사용된 0 으로 나누기 예제는 '파싱하라, 검증하지 마라'를 보여주는 최선의 예가 아니라는 점에 주의. 캡슐화에 의존하기 때문이다. 이 원칙은 신뢰할 수 없는 데이터를 구성에 의해 올바른 데이터 타입으로 변환하는 함수에서 가장 잘 구현된다.
Nota que el ejemplo de división por cero usado en este artículo no es el mejor ejemplo para demostrar 'Parsea, No Valides,' porque depende de la encapsulación. El principio se encarna mejor en funciones que transforman datos no confiables en algún tipo de dato correcto por construcción.
Beachte, dass das Division-durch-Null-Beispiel in diesem Artikel nicht das beste Beispiel ist, um 'Parse, Don't Validate' zu demonstrieren, weil es auf Kapselung beruht. Das Prinzip wird am besten durch Funktionen verkörpert, die nicht vertrauenswürdige Daten in einen Datentyp transformieren, der durch Konstruktion korrekt ist.
hutao