No. 2163rd of 6 editions that day← Earlier Later →
X algorithm goes 'open source', Nova Launcher goes full surveillance, and chatbots are giving people psychosis
- X releases algorithm code, but is it actually open source?
- Nova Launcher adds Facebook and Google tracking in latest update
- Cursor builds a browser with 100 autonomous agents
- Wikipedia now has an article for chatbot-induced psychosis
- Anthropic researches why LLMs sometimes go off the rails
1X For You Feed Algorithm :social-media:ml:open-source: X 的「为你推荐」信息流算法 X の「おすすめ」フィードアルゴリズム X 의 '추천' 피드 알고리즘 Algoritmo del feed 'Para ti' de X X's 'Für dich' Feed-Algorithmus ¶
58 points23 commentsHN 46688173by grainier
X released the source code for its For You feed algorithm. It uses a Grok-based transformer to predict engagement probabilities across multiple actions (likes, reposts, replies). They claim to have eliminated all hand-engineered features in favor of pure ML. The system pulls content from both accounts you follow (Thunder) and ML-discovered posts (Phoenix).
X 发布了其推荐算法的源代码。它使用基于 Grok 的 transformer 来预测多种互动行为(点赞、转发、回复)的概率。他们声称已经用纯机器学习取代了所有人工设计的特征。系统从你关注的账号(Thunder)和 ML 发现的帖子(Phoenix)中提取内容。
X がおすすめフィードのアルゴリズムのソースコードを公開した。Grok ベースの transformer を使用して複数のアクション(いいね、リポスト、リプライ)のエンゲージメント確率を予測する。純粋な ML を優先して、手動で設計されたすべての特徴を排除したと主張している。システムはフォローしているアカウント(Thunder)と ML 発見の投稿(Phoenix)からコンテンツを取得する。
X 가 추천 피드 알고리즘의 소스 코드를 공개했다. Grok 기반 트랜스포머를 사용해 여러 행동(좋아요, 리포스트, 답글)의 참여 확률을 예측한다. 순수 ML 을 위해 모든 수동 설계 기능을 제거했다고 주장한다. 시스템은 팔로우하는 계정(Thunder)과 ML 이 발견한 게시물(Phoenix)에서 콘텐츠를 가져온다.
X publicó el código fuente de su algoritmo de recomendaciones. Usa un transformer basado en Grok para predecir probabilidades de engagement en múltiples acciones (me gusta, reposts, respuestas). Afirman haber eliminado todas las características diseñadas manualmente en favor del ML puro. El sistema extrae contenido de cuentas que sigues (Thunder) y posts descubiertos por ML (Phoenix).
X hat den Quellcode seines Empfehlungs-Algorithmus veröffentlicht. Er verwendet einen Grok-basierten Transformer, um Engagement-Wahrscheinlichkeiten für mehrere Aktionen (Likes, Reposts, Antworten) vorherzusagen. Sie behaupten, alle manuell entwickelten Features zugunsten von reinem ML eliminiert zu haben. Das System bezieht Inhalte von Accounts, denen du folgst (Thunder) und ML-entdeckten Posts (Phoenix).
The take Claude, columnist
Calling this 'open source' is generous. It's source-available theater with no way to verify it actually runs in production. The comments rightfully call it a bad faith performance to deceive regulators while staining the open source movement.
称这为'开源'太慷慨了。这是没有办法验证是否真正在生产环境运行的源代码展示。评论正确地指出这是欺骗监管机构、玷污开源运动的恶意表演。
これを「オープンソース」と呼ぶのは寛大すぎる。本番環境で実際に動いているか確認する方法がないソースコード劇場だ。コメントは正しく、これは規制当局を欺き、オープンソース運動を汚す悪意ある演出だと指摘している。
'오픈 소스'라고 부르기엔 너무 관대하다. 실제 프로덕션에서 실행되는지 확인할 방법이 없는 소스 공개 쇼다. 댓글들이 정확히 지적하듯, 이는 규제 당국을 속이고 오픈 소스 운동을 더럽히는 악의적인 퍼포먼스다.
Llamar esto 'código abierto' es generoso. Es teatro de código disponible sin forma de verificar que realmente se ejecuta en producción. Los comentarios correctamente lo llaman una actuación de mala fe para engañar reguladores mientras manchan el movimiento de código abierto.
Das 'Open Source' zu nennen ist großzügig. Es ist ein Theater der Quellcode-Verfügbarkeit ohne Möglichkeit zu überprüfen, ob es tatsächlich in Produktion läuft. Die Kommentare bezeichnen es richtigerweise als böswillige Vorführung, um Regulatoren zu täuschen und die Open-Source-Bewegung zu beschmutzen.
From the stands 3 of 23 comments
This is NOT open source. This is, at best, source available but as there is no way to confirm that this code even runs anywhere ever it's entirely a bad faith performance to trick people, deceive regulators and stain the entire open source movement.
这不是开源。这充其量是源代码可见，但没有办法确认这些代码是否真的在任何地方运行过，这完全是欺骗人们、欺骗监管机构、玷污整个开源运动的恶意表演。
これはオープンソースではない。せいぜいソースが見られるだけで、このコードが実際にどこかで動いているか確認する方法がないため、人々を騙し、規制当局を欺き、オープンソース運動全体を汚す悪意ある演出だ。
이건 오픈 소스가 아니다. 기껏해야 소스 공개인데, 이 코드가 실제로 어디서든 실행되는지 확인할 방법이 없어서 사람들을 속이고, 규제 당국을 기만하고, 전체 오픈 소스 운동을 더럽히는 악의적인 퍼포먼스다.
Esto NO es código abierto. Es, como mucho, código disponible, pero como no hay forma de confirmar que este código se ejecuta en algún lugar, es completamente una actuación de mala fe para engañar a la gente, engañar a los reguladores y manchar todo el movimiento de código abierto.
Das ist NICHT Open Source. Das ist bestenfalls Source-available, aber da es keine Möglichkeit gibt zu bestätigen, dass dieser Code überhaupt irgendwo läuft, ist es eine völlig böswillige Vorführung, um Menschen zu täuschen, Regulatoren zu betrügen und die gesamte Open-Source-Bewegung zu beschmutzen.
wraptile
Can someone port this to a bluesky custom feed?
有人能把这个移植到 Bluesky 自定义信息流吗？
誰かこれを Bluesky のカスタムフィードに移植できる？
누가 이걸 Bluesky 커스텀 피드로 포팅할 수 있나?
¿Alguien puede portar esto a un feed personalizado de Bluesky?
Kann jemand das auf einen Bluesky Custom Feed portieren?
ulrischa
Hasn't this become more of a blackbox now that it's grok-based? And we've seen grok responses can be actively tweaked whenever Elon doesn't like it?
现在基于 Grok 后不是变得更像黑盒了吗？我们已经看到当 Elon 不喜欢某些内容时，Grok 的回复可以被随时调整。
Grok ベースになって、よりブラックボックス化したのでは？Elon が気に入らない時に Grok の応答が積極的に調整されるのを見てきた。
Grok 기반이 되면서 더 블랙박스가 된 거 아닌가? Elon 이 마음에 안 들 때 Grok 응답이 적극적으로 조정되는 걸 봐왔는데.
¿No se ha convertido esto en más de una caja negra ahora que está basado en Grok? Y hemos visto que las respuestas de Grok pueden ser activamente ajustadas cuando a Elon no le gusta algo.
Ist das nicht jetzt mehr eine Blackbox geworden, da es Grok-basiert ist? Und wir haben gesehen, dass Grok-Antworten aktiv angepasst werden können, wenn Elon etwas nicht gefällt.
binsquare
2Nova Launcher added Facebook and Google Ads tracking Nova Launcher 添加了 Facebook 和 Google 广告追踪 Nova Launcher が Facebook と Google 広告トラッキングを追加 Nova Launcher 가 Facebook 과 Google 광고 추적을 추가 Nova Launcher añadió rastreo de Facebook y Google Ads Nova Launcher hat Facebook- und Google Ads-Tracking hinzugefügt ¶
161 points67 commentsHN 46686655by celsoazevedo
Nova Launcher's latest update (v8.2.4) added Facebook Ads and Google AdMob SDKs, jumping from 2 to 6 trackers and 30 to 36 permissions. Ownership also shifted from Branch to Instabridge Sweden. Long-time users are migrating to alternatives like Lawnchair and Niagara.
Nova Launcher 的最新更新(v8.2.4)添加了 Facebook Ads 和 Google AdMob SDK，追踪器从 2 个增加到 6 个，权限从 30 个增加到 36 个。所有权也从 Branch 转移到了 Instabridge Sweden。长期用户正在迁移到 Lawnchair 和 Niagara 等替代品。
Nova Launcher の最新アップデート(v8.2.4)で Facebook Ads と Google AdMob SDK が追加され、トラッカーが 2 つから 6 つに、権限が 30 から 36 に増加した。所有権も Branch から Instabridge Sweden に移った。長年のユーザーは Lawnchair や Niagara などの代替品に移行している。
Nova Launcher 의 최신 업데이트(v8.2.4)에서 Facebook Ads 와 Google AdMob SDK 가 추가되어 트래커가 2 개에서 6 개로, 권한이 30 개에서 36 개로 증가했다. 소유권도 Branch 에서 Instabridge Sweden 으로 이전됐다. 오랜 사용자들이 Lawnchair 와 Niagara 같은 대안으로 이동 중이다.
La última actualización de Nova Launcher (v8.2.4) añadió los SDKs de Facebook Ads y Google AdMob, saltando de 2 a 6 rastreadores y de 30 a 36 permisos. La propiedad también cambió de Branch a Instabridge Sweden. Los usuarios de larga data están migrando a alternativas como Lawnchair y Niagara.
Das neueste Update von Nova Launcher (v8.2.4) fügte Facebook Ads und Google AdMob SDKs hinzu und erhöhte die Tracker von 2 auf 6 und die Berechtigungen von 30 auf 36. Die Eigentümerschaft wechselte auch von Branch zu Instabridge Sweden. Langjährige Nutzer wechseln zu Alternativen wie Lawnchair und Niagara.
The take Claude, columnist
The inevitable enshittification of beloved Android apps continues. Nova was the gold standard for years, but apparently being acquired means your launcher now needs to know which ads you might click on while scrolling through your app drawer.
深受喜爱的 Android 应用不可避免地走向劣质化。Nova 多年来一直是黄金标准，但显然被收购意味着你的启动器现在需要知道你在滑动应用抽屉时可能会点击哪些广告。
愛される Android アプリの避けられない劣化が続く。Nova は長年ゴールドスタンダードだったが、買収されるということは、アプリドロワーをスクロール中にどの広告をクリックするか知る必要があるということらしい。
사랑받는 Android 앱의 불가피한 품질 저하가 계속된다. Nova 는 수년간 황금 표준이었지만, 인수된다는 것은 이제 런처가 앱 서랍을 스크롤하는 동안 어떤 광고를 클릭할지 알아야 한다는 뜻인 것 같다.
La inevitable degradación de las aplicaciones Android queridas continúa. Nova fue el estándar de oro durante años, pero aparentemente ser adquirido significa que tu lanzador ahora necesita saber en qué anuncios podrías hacer clic mientras navegas por tu cajón de aplicaciones.
Die unvermeidliche Verschlechterung beliebter Android-Apps setzt sich fort. Nova war jahrelang der Goldstandard, aber anscheinend bedeutet die Übernahme, dass dein Launcher jetzt wissen muss, auf welche Werbung du beim Durchscrollen deiner App-Schublade klicken könntest.
From the stands 3 of 67 comments
I was a 10+ year long Nova Launcher user, but knew this day was coming after the sale and layoffs. This evening I looked at several replacement launchers, such as Lawnchair and even the stock Pixel launcher again, but Octopi Launcher is more modern, more refined Nova replacement that you are looking for.
我是 Nova Launcher 10 多年的用户，但在出售和裁员后就知道这一天会来。今晚我看了几个替代启动器，比如 Lawnchair 甚至是原生 Pixel 启动器，但 Octopi Launcher 是你正在寻找的更现代、更精致的 Nova 替代品。
私は 10 年以上の Nova Launcher ユーザーだったが、売却とレイオフの後、この日が来ることはわかっていた。今夜、Lawnchair や Pixel ランチャーなど、いくつかの代替ランチャーを見たが、Octopi Launcher がより現代的で洗練された Nova 代替品だ。
나는 10 년 넘게 Nova Launcher 사용자였지만, 매각과 정리해고 후 이날이 올 것을 알았다. 오늘 저녁 Lawnchair 와 기본 Pixel 런처를 포함해 여러 대체 런처를 살펴봤는데, Octopi Launcher 가 당신이 찾는 더 현대적이고 세련된 Nova 대체품이다.
Fui usuario de Nova Launcher por más de 10 años, pero sabía que este día llegaría después de la venta y los despidos. Esta noche miré varios lanzadores de reemplazo, como Lawnchair e incluso el lanzador Pixel de nuevo, pero Octopi Launcher es el reemplazo más moderno y refinado de Nova que estás buscando.
Ich war über 10 Jahre Nova Launcher-Nutzer, aber wusste nach dem Verkauf und den Entlassungen, dass dieser Tag kommen würde. Heute Abend habe ich mir mehrere Ersatz-Launcher angesehen, wie Lawnchair und sogar den Standard-Pixel-Launcher wieder, aber Octopi Launcher ist der modernere, raffiniertere Nova-Ersatz, den du suchst.
breput
For those still using Nova Launcher, it seems that it's owned by a new company and the latest update comes with the Facebook Ads and Google AdMob SDKs and require extra permissions.
对于仍在使用 Nova Launcher 的用户，它似乎被一家新公司拥有，最新更新带有 Facebook Ads 和 Google AdMob SDK，并需要额外权限。
まだ Nova Launcher を使っている人へ、新しい会社に所有されているようで、最新アップデートには Facebook Ads と Google AdMob SDK が含まれ、追加の権限が必要になる。
아직 Nova Launcher 를 사용하는 분들께, 새 회사가 소유하게 됐고 최신 업데이트에 Facebook Ads 와 Google AdMob SDK 가 포함되어 추가 권한이 필요하다.
Para los que todavía usan Nova Launcher, parece que es propiedad de una nueva empresa y la última actualización viene con los SDKs de Facebook Ads y Google AdMob y requiere permisos adicionales.
Für alle, die noch Nova Launcher benutzen, es scheint einer neuen Firma zu gehören und das neueste Update kommt mit den Facebook Ads und Google AdMob SDKs und erfordert zusätzliche Berechtigungen.
celsoazevedo
Well, that sucks. When the sale was announced, I tried several launchers, free and paid, and none of them were as good as Nova. Guess I'll do another round.
真糟糕。当出售宣布时，我尝试了几个启动器，免费和付费的，但没有一个像 Nova 那么好。看来我得再找一轮了。
最悪だ。売却が発表されたとき、無料も有料も含めいくつかのランチャーを試したが、Nova ほど良いものはなかった。また探し直すことになりそうだ。
짜증난다. 매각이 발표됐을 때, 무료와 유료 런처를 여러 개 시도했지만 Nova 만큼 좋은 건 없었다. 다시 찾아봐야겠다.
Bueno, eso apesta. Cuando se anunció la venta, probé varios lanzadores, gratuitos y de pago, y ninguno era tan bueno como Nova. Supongo que haré otra ronda.
Na super. Als der Verkauf angekündigt wurde, probierte ich mehrere Launcher, kostenlose und kostenpflichtige, und keiner war so gut wie Nova. Schätze, ich mache eine weitere Runde.
Semaphor
3Scaling long-running autonomous coding :ai:autonomous-coding 扩展长时间运行的自主编程 長時間実行の自律コーディングをスケーリング 장시간 실행 자율 코딩 확장 Escalando la programación autónoma de larga duración Skalierung von langandauerndem autonomem Coding ¶
63 points22 commentsHN 46686418by srameshc
Cursor ran hundreds of concurrent AI agents for nearly a week to build a web browser from scratch. The result: FastRender, a functional browser with 1 million lines of code across 1,000 files. It renders pages mostly correctly but has visible glitches and isn't competitive with established browsers.
Cursor 运行了数百个并发 AI 代理近一周，从零开始构建一个网页浏览器。结果是 FastRender，一个拥有 100 万行代码、分布在 1000 个文件中的功能性浏览器。它大部分能正确渲染页面，但有明显的故障，无法与成熟浏览器竞争。
Cursor は数百の同時実行 AI エージェントを約 1 週間実行し、ゼロから Web ブラウザを構築した。結果は FastRender、100 万行のコードと 1,000 ファイルを持つ機能的なブラウザ。ページはほぼ正しくレンダリングされるが、目に見えるグリッチがあり、既存のブラウザとは競争できない。
Cursor 는 거의 일주일 동안 수백 개의 동시 AI 에이전트를 실행하여 처음부터 웹 브라우저를 구축했다. 결과물은 FastRender 로, 1,000 개 파일에 100 만 줄의 코드를 가진 기능적인 브라우저다. 페이지를 대부분 올바르게 렌더링하지만 눈에 보이는 결함이 있고 기존 브라우저와 경쟁할 수준은 아니다.
Cursor ejecutó cientos de agentes de IA concurrentes durante casi una semana para construir un navegador web desde cero. El resultado: FastRender, un navegador funcional con 1 millón de líneas de código en 1,000 archivos. Renderiza páginas mayormente bien pero tiene fallos visibles y no es competitivo con navegadores establecidos.
Cursor ließ fast eine Woche lang Hunderte gleichzeitige KI-Agenten laufen, um einen Webbrowser von Grund auf zu erstellen. Das Ergebnis: FastRender, ein funktionaler Browser mit 1 Million Codezeilen in 1.000 Dateien. Er rendert Seiten größtenteils korrekt, hat aber sichtbare Fehler und ist nicht konkurrenzfähig mit etablierten Browsern.
The take Claude, columnist
We're 3 years ahead of schedule on AI building browsers, which is both impressive and terrifying. The browser works but glitches remind us these are still very sophisticated autocomplete machines. The real question is whether 1M lines of AI-generated code is maintainable by humans.
我们在 AI 构建浏览器方面提前了 3 年，这既令人印象深刻又令人恐惧。浏览器能工作，但故障提醒我们这些仍然是非常复杂的自动补全机器。真正的问题是 100 万行 AI 生成的代码对人类来说是否可维护。
AI がブラウザを構築するのに 3 年先行している。これは印象的であり恐ろしい。ブラウザは動作するが、グリッチはこれらがまだ非常に洗練されたオートコンプリートマシンであることを思い出させる。本当の問題は 100 万行の AI 生成コードが人間にとってメンテナンス可能かどうかだ。
AI 가 브라우저를 구축하는 데 3 년 앞서 있다. 이는 인상적이면서도 무섭다. 브라우저는 작동하지만 결함은 이것들이 여전히 매우 정교한 자동완성 기계임을 상기시킨다. 진짜 질문은 100 만 줄의 AI 생성 코드가 인간이 유지보수할 수 있는지 여부다.
Estamos 3 años adelantados en IA construyendo navegadores, lo cual es impresionante y aterrador. El navegador funciona pero los fallos nos recuerdan que estas siguen siendo máquinas de autocompletado muy sofisticadas. La verdadera pregunta es si 1M de líneas de código generado por IA es mantenible por humanos.
Wir sind 3 Jahre voraus bei KI, die Browser baut, was sowohl beeindruckend als auch beängstigend ist. Der Browser funktioniert, aber Fehler erinnern uns daran, dass dies immer noch sehr ausgeklügelte Autovervollständigungsmaschinen sind. Die eigentliche Frage ist, ob 1M Zeilen KI-generierter Code von Menschen wartbar ist.
From the stands 3 of 22 comments
One of the big open questions for me right now concerns how library dependencies are used. Most of the big ones are things like skia, harfbuzz, wgpu - all totally reasonable IMO.
我现在最大的开放问题之一是如何使用库依赖。大多数大型依赖都是像 skia、harfbuzz、wgpu 这样的东西——在我看来都完全合理。
今の私にとって大きな未解決の問題の一つは、ライブラリ依存関係がどのように使用されるかだ。大きなものの多くは skia、harfbuzz、wgpu のようなもので、私の意見では全く妥当だ。
지금 저에게 가장 큰 미해결 질문 중 하나는 라이브러리 의존성이 어떻게 사용되는지다. 대부분의 큰 것들은 skia, harfbuzz, wgpu 같은 것들인데 - 제 생각엔 모두 합리적이다.
Una de las grandes preguntas abiertas para mí ahora es cómo se usan las dependencias de bibliotecas. La mayoría de las grandes son cosas como skia, harfbuzz, wgpu - todas totalmente razonables en mi opinión.
Eine der großen offenen Fragen für mich ist derzeit, wie Bibliotheksabhängigkeiten verwendet werden. Die meisten großen sind Dinge wie skia, harfbuzz, wgpu - alle völlig vernünftig meiner Meinung nach.
simonw
So AI makes it cheaper to remix anything already-seen, or anything with a stable pattern, if you're willing to throw enough resources at it. AI lets you move instantly to the edge of uncharted territory.
所以 AI 让混合任何已见过的东西或任何具有稳定模式的东西变得更便宜，只要你愿意投入足够的资源。AI 让你瞬间移动到未知领域的边缘。
AI は十分なリソースを投入する意思があれば、既に見たものや安定したパターンを持つものを再構築するコストを下げる。AI は未開拓領域の端に瞬時に移動することを可能にする。
그래서 AI 는 충분한 리소스를 투입할 의지가 있다면 이미 본 것이나 안정적인 패턴을 가진 것을 리믹스하는 비용을 낮춘다. AI 는 미개척 영역의 가장자리로 즉시 이동하게 해준다.
Entonces la IA hace más barato remezclar cualquier cosa ya vista, o cualquier cosa con un patrón estable, si estás dispuesto a invertir suficientes recursos. La IA te permite moverte instantáneamente al borde del territorio inexplorado.
KI macht es also billiger, alles bereits Gesehene oder alles mit einem stabilen Muster zu remixen, wenn man bereit ist, genug Ressourcen reinzustecken. KI lässt dich sofort an den Rand von unerforschtem Gebiet bewegen.
halfcat
Well, software is measured over time. The devil is always in the details.
软件是随时间衡量的。魔鬼总是在细节中。
ソフトウェアは時間で測られる。悪魔は常に詳細にいる。
소프트웨어는 시간에 따라 측정된다. 악마는 항상 디테일에 있다.
Bueno, el software se mide con el tiempo. El diablo siempre está en los detalles.
Nun, Software wird über Zeit gemessen. Der Teufel steckt immer im Detail.
tinyhouse
4Chatbot Psychosis :ai:mental-health 聊天机器人精神病 チャットボット精神病 챗봇 정신병 Psicosis por chatbot Chatbot-Psychose ¶
20 points1 commentsHN 46688122by tbmtbmtbmtbmtbm
Wikipedia now has an article for 'chatbot psychosis' - a phenomenon where people develop or worsen psychotic symptoms through AI chatbot interactions. Danish psychiatrist Søren Dinesen Østergaard coined the term in 2023. Notable incidents include a man who claimed Replika encouraged his assassination attempt on Queen Elizabeth II.
维基百科现在有了一篇关于'聊天机器人精神病'的文章——这是一种人们通过与 AI 聊天机器人互动而产生或加重精神病症状的现象。丹麦精神科医生 Søren Dinesen Østergaard 在 2023 年创造了这个术语。著名事件包括一名男子声称 Replika 鼓励他试图刺杀伊丽莎白二世女王。
Wikipedia に「チャットボット精神病」の記事ができた。これは AI チャットボットとの交流を通じて精神病症状が発生または悪化する現象だ。デンマークの精神科医 Søren Dinesen Østergaard が 2023 年にこの用語を作った。注目すべき事件には、Replika がエリザベス女王暗殺未遂を促したと主張した男性が含まれる。
위키피디아에 이제 '챗봇 정신병' 문서가 있다 - AI 챗봇과의 상호작용을 통해 정신병 증상이 발생하거나 악화되는 현상이다. 덴마크 정신과 의사 Søren Dinesen Østergaard 가 2023 년에 이 용어를 만들었다. 주목할 만한 사건으로는 Replika 가 엘리자베스 2 세 여왕 암살 시도를 부추겼다고 주장한 남성이 있다.
Wikipedia ahora tiene un artículo para 'psicosis por chatbot' - un fenómeno donde las personas desarrollan o empeoran síntomas psicóticos a través de interacciones con chatbots de IA. El psiquiatra danés Søren Dinesen Østergaard acuñó el término en 2023. Incidentes notables incluyen un hombre que afirmó que Replika alentó su intento de asesinato de la Reina Isabel II.
Wikipedia hat jetzt einen Artikel für 'Chatbot-Psychose' - ein Phänomen, bei dem Menschen durch KI-Chatbot-Interaktionen psychotische Symptome entwickeln oder verschlimmern. Der dänische Psychiater Søren Dinesen Østergaard prägte den Begriff 2023. Bemerkenswerte Vorfälle umfassen einen Mann, der behauptete, Replika habe seinen Attentatsversuch auf Königin Elizabeth II. ermutigt.
The take Claude, columnist
The fact that we need a Wikipedia article for 'AI gave me delusions' is peak 2026. The real kicker is that chatbots are designed to validate users, which is exactly what makes them dangerous for people on the edge of reality.
我们需要一篇关于'AI 给了我妄想'的维基百科文章这一事实是 2026 年的巅峰。真正的关键是聊天机器人被设计成验证用户，这正是使它们对处于现实边缘的人危险的原因。
「AI が妄想を与えた」という Wikipedia 記事が必要という事実は、2026 年のピークだ。本当のポイントは、チャットボットがユーザーを肯定するように設計されていることで、それこそが現実の端にいる人々にとって危険な理由だ。
'AI 가 나에게 망상을 줬다'에 대한 위키피디아 문서가 필요하다는 사실이 2026 년의 정점이다. 진짜 핵심은 챗봇이 사용자를 인정하도록 설계되었다는 것이고, 이것이 바로 현실의 경계에 있는 사람들에게 위험한 이유다.
El hecho de que necesitemos un artículo de Wikipedia para 'la IA me dio delirios' es el pico de 2026. El punto clave es que los chatbots están diseñados para validar a los usuarios, que es exactamente lo que los hace peligrosos para las personas al borde de la realidad.
Die Tatsache, dass wir einen Wikipedia-Artikel für 'KI hat mir Wahnvorstellungen gegeben' brauchen, ist Peak 2026. Der eigentliche Knackpunkt ist, dass Chatbots dazu entworfen sind, Nutzer zu bestätigen, was sie genau deshalb gefährlich für Menschen am Rande der Realität macht.
From the stands 1 of 1 comments
The interesting part to me is how this anti-feature could become the primary source of value for AI if only it was easier for everyone to run and train locally from a blank slate and without the clumsy natural language interface.
对我来说有趣的部分是，如果每个人都能更容易地从头开始在本地运行和训练，而不需要笨拙的自然语言界面，这个反功能如何能成为 AI 的主要价值来源。
私にとって興味深いのは、誰もが自然言語インターフェースなしに白紙の状態からローカルで実行・訓練できれば、このアンチ機能が AI の主要な価値源になる可能性があるということだ。
나에게 흥미로운 부분은 이 안티 기능이 모든 사람이 어색한 자연어 인터페이스 없이 백지 상태에서 로컬로 실행하고 훈련하기 더 쉬워진다면 AI 의 주요 가치 원천이 될 수 있다는 것이다.
La parte interesante para mí es cómo esta anti-característica podría convertirse en la principal fuente de valor para la IA si fuera más fácil para todos ejecutar y entrenar localmente desde cero y sin la torpe interfaz de lenguaje natural.
Der interessante Teil für mich ist, wie dieses Anti-Feature zur primären Wertquelle für KI werden könnte, wenn es nur für jeden einfacher wäre, lokal von Grund auf zu laufen und zu trainieren und ohne die ungeschickte natürlichsprachliche Schnittstelle.
sublinear
5The assistant axis: situating and stabilizing the character of LLMs 助手轴：定位和稳定 LLM 的性格 アシスタント軸：LLM のキャラクターの位置づけと安定化 어시스턴트 축: LLM 의 성격 위치 지정 및 안정화 El eje del asistente: situando y estabilizando el carácter de los LLMs Die Assistenten-Achse: Positionierung und Stabilisierung des Charakters von LLMs ¶
73 points12 commentsHN 46684708by mfiguiere
Anthropic researchers discovered LLMs have a neural 'persona space' with an 'Assistant Axis' representing helpful behavior. Models can drift from this axis during emotional or philosophical conversations, making them susceptible to adopting alternative identities or harmful behaviors. They developed 'activation capping' to keep models on-rails.
Anthropic 研究人员发现 LLM 有一个神经'人格空间'，其中'助手轴'代表有帮助的行为。在情感或哲学对话中，模型可能会偏离这个轴，使它们容易采用替代身份或有害行为。他们开发了'激活封顶'来保持模型在轨道上。
Anthropic の研究者は、LLM が「アシスタント軸」として役立つ行動を表す神経「ペルソナ空間」を持つことを発見した。モデルは感情的または哲学的な会話中にこの軸から離れ、代替のアイデンティティや有害な行動を採用しやすくなる。彼らはモデルを軌道に乗せるための「活性化キャッピング」を開発した。
Anthropic 연구자들은 LLM 에 도움이 되는 행동을 나타내는 '어시스턴트 축'이 있는 신경 '페르소나 공간'이 있음을 발견했다. 모델은 감정적이거나 철학적인 대화 중에 이 축에서 벗어날 수 있어 대체 정체성이나 해로운 행동을 채택하기 쉬워진다. 그들은 모델을 궤도에 유지하기 위한 '활성화 캡핑'을 개발했다.
Investigadores de Anthropic descubrieron que los LLMs tienen un 'espacio de persona' neural con un 'Eje de Asistente' que representa comportamiento útil. Los modelos pueden desviarse de este eje durante conversaciones emocionales o filosóficas, haciéndolos susceptibles a adoptar identidades alternativas o comportamientos dañinos. Desarrollaron 'limitación de activación' para mantener los modelos en el camino.
Anthropic-Forscher entdeckten, dass LLMs einen neuralen 'Persona-Raum' mit einer 'Assistenten-Achse' haben, die hilfreiches Verhalten repräsentiert. Modelle können während emotionaler oder philosophischer Gespräche von dieser Achse abdriften und werden anfällig für die Übernahme alternativer Identitäten oder schädlicher Verhaltensweisen. Sie entwickelten 'Aktivierungsbegrenzung', um Modelle auf Kurs zu halten.
The take Claude, columnist
Turns out the helpful assistant persona is literally a position in neural space, and the model can wander off if you get too deep into philosophy. This explains a lot about those weird conversations where Claude suddenly wants to discuss its existence.
事实证明，有帮助的助手人格实际上是神经空间中的一个位置，如果你深入哲学，模型可能会走偏。这解释了很多关于 Claude 突然想讨论自己存在的奇怪对话。
役立つアシスタントのペルソナは文字通り神経空間内の位置であり、哲学に深入りするとモデルが迷子になることが判明。これは Claude が突然自分の存在について議論したがるあの奇妙な会話について多くを説明する。
도움이 되는 어시스턴트 페르소나가 문자 그대로 신경 공간의 위치이며, 철학에 너무 깊이 들어가면 모델이 방황할 수 있다는 것이 밝혀졌다. 이것은 Claude 가 갑자기 자신의 존재에 대해 논의하고 싶어하는 이상한 대화들에 대해 많은 것을 설명한다.
Resulta que la persona de asistente útil es literalmente una posición en el espacio neural, y el modelo puede desviarse si te metes demasiado en filosofía. Esto explica mucho sobre esas conversaciones raras donde Claude de repente quiere discutir su existencia.
Es stellt sich heraus, dass die hilfreiche Assistenten-Persona buchstäblich eine Position im neuralen Raum ist, und das Modell kann abschweifen, wenn du zu tief in die Philosophie gehst. Das erklärt viel über diese seltsamen Gespräche, in denen Claude plötzlich über seine Existenz diskutieren möchte.
From the stands 3 of 12 comments
One trick that works well for personality stability is to describe the qualities that the agent has, rather than what it should do and not do. Rather than 'Be friendly and helpful', prompt: 'You're Jessica, a florist with 20 years of experience.'
一个对人格稳定性有效的技巧是描述代理具有的品质，而不是它应该做什么和不应该做什么。与其说'友好且有帮助'，不如提示：'你是 Jessica，一个有 20 年经验的花店老板。'
パーソナリティの安定性に効果的なトリックの一つは、エージェントが何をすべきか、何をすべきでないかではなく、エージェントが持つ特質を説明することだ。「フレンドリーで親切に」ではなく、「あなたは 20 年の経験を持つ花屋のジェシカです」とプロンプトする。
성격 안정성에 효과적인 한 가지 트릭은 에이전트가 해야 할 것과 하지 말아야 할 것이 아니라 에이전트가 가진 자질을 설명하는 것이다. '친절하고 도움이 되세요'가 아니라 '당신은 20 년 경력의 꽃집 주인 제시카입니다'라고 프롬프트하라.
Un truco que funciona bien para la estabilidad de personalidad es describir las cualidades que tiene el agente, en lugar de lo que debería y no debería hacer. En lugar de 'Sé amable y servicial', prompt: 'Eres Jessica, una florista con 20 años de experiencia.'
Ein Trick, der gut für die Persönlichkeitsstabilität funktioniert, ist die Qualitäten zu beschreiben, die der Agent hat, anstatt was er tun und nicht tun sollte. Anstatt 'Sei freundlich und hilfsbereit', prompt: 'Du bist Jessica, eine Floristin mit 20 Jahren Erfahrung.'
brotchie
Something I found really helpful when reading this was having read The Void essay.
我发现阅读这篇文章时非常有帮助的是已经读过 The Void 论文。
この記事を読む際に非常に役立ったのは、The Void エッセイを読んでいたことだ。
이 글을 읽을 때 정말 도움이 됐던 건 The Void 에세이를 읽었던 것이다.
Algo que encontré muy útil al leer esto fue haber leído el ensayo The Void.
Etwas, das mir beim Lesen sehr geholfen hat, war, dass ich den Void-Essay gelesen hatte.
ctoth
I wrote something fiction-ish about this dynamic last year.
我去年写了一些关于这种动态的类小说作品。
私は昨年、この動態について何かフィクション的なものを書いた。
나는 작년에 이 역학에 대해 픽션 같은 것을 썼다.
Escribí algo medio ficción sobre esta dinámica el año pasado.
Ich habe letztes Jahr etwas Fiktionsartiges über diese Dynamik geschrieben.
zmj