- 起草了一篇博客文章 - 用 LLM 花了 4 小时精心打磨论点 - 哇，感觉很好，论证非常有说服力！ - 突发奇想，让它论证相反的观点 - LLM 把整个论证彻底推翻，反而说服我相反的观点才是对的 - 哈哈哈 LLM 在被要求时会给出某种观点，但它们极其擅长论证几乎任何方向。这其实是一个形成自己观点的超级有用工具——只需确保让它从不同方向论证，并注意防范 sycophancy（过度迎合）问题。
所有 LLM 个性化功能都有一个常见问题：memory 对模型的干扰有多大。两个月前随口问过的某个话题，会被当成我的「核心兴趣」一直反复提及。某种程度上是用力过猛了。
100 tweets · 45 sources