AI 学习感受二三事 -- 研究LLM Wiki（RAG 小分支）

aidj

(1) 昨天Anthropic 宣称 Claude AI builds itself 帮自己写 80%以上代码，还需要人去公司干嘛呢？做PR？

有没想过 自相矛盾

(2) 每天都看到 一群人在FB 默默地付出一切 替AI公司 当免费数字奴隶，辛苦敲代码 放在GitHub ，无偿无限度使用。

(3) 前几天我Part2看起，以为自己可以的，结果花了几个小时 想不通。

虚心学习，从头开始。

OMG，只是一个 weather API,

比任何人类学过的 programming languages 还要难懂

（a）东西南北 理论知识 要求有IT背景

如果你真的信了 老黄鬼话（以后不用programmers，是啦等到“A S I”)，

简单一个 天气 request

真的比 window 里面有的 buttons, list box 还难上百倍 如果你要求的 output

100%准确，100% 稳定，还有 100% control loop

一旦out of distribution (Ood), retry, 烧token

（b）可怕的是 死循环 deadlock,
尤其在 multi -agent tasking 要看重的部分


如果 1个process 有1000 steps, 一步错步步错
只需要 容错率 超 Sigma值达 0.00 00 01% 以上的错误
后面 步骤 Amplifier 达千倍或万倍以上 这些是有论文的


（c）别以为 prompt 写越长越好哦，小白 读过 context engineering 有该明白为什么，不要赘言。

1 chat session 1K token 才 1块钱。
另1 chat session 1M token 也是 1块钱。
别以为自己 占了 便宜。典型的数字魔术。

(d) Nvidia GPU 要面临 过热 局部失效 导致失败，
简单易懂的说法是 1000千万小学生 同时算一道题，只要1个小学生 算错，inference崩溃了

叠加 大语言模型 天生的 幻觉，令人泄气。


（4）算了又算，还是找 神人 outsourcing
black and white 写下 service levels agreement

承担全部法律责任，还比较轻松。

（5）截稿，L3 依然是 不稳定、不可控、不可预测。


最后感想
如果 Claude宣传那么厉害的话，早就步入OpenAI定下 AI L5 stage

人工通用智能 指日可待

+++++

覺得 LLM Wiki 比較適合個人場景，企業場景複雜得多，不是很適合
剛好看到這篇分析供參: https://axk51013.medium.com/reth ... A3-rag-041629319804