读到一篇关于DeepSeek胡编乱造且嘴硬的文章 http://mp.weixin.qq.com/s/g37_UtaPpmuqQHnmSX8FCg 。读完觉得标题有点过于耸人听闻。在技术层面上，DeepSeek的胡编乱造/hallucination可能跟ChatGPT差不多(以前写过一条关于LLM AI的胡编不是bug而是feature的 https://bgme.me/@phyllisluna/112972829738698528 ，这里不展开了)，甚至“嘴硬”可能也差不多。

觉得比较有意思的是DeepSeek(无意识/unintentional)精准抓住了国内人的认知过程弱点：在文中的例子里，DeepSeek瞎编的文献是政府文书/规范，恰恰是人们最容易闭眼信的——一方面是强权洗礼带来的畏惧，另一方面(paradoxically)是知道这些文件本身常常是nonsense的。另外，在这个具体的例子里，DeepSeek还(也是无意识)精准抓住了国内人对文物保护的盲信(e.g.时不时就冒出来关于文物拍照的掐架)。

原文作者强调的信息污染和认知陷阱(“比ChatGPT危险100倍”)，我倒觉得不是全新的危机，毕竟看似客观真实信息的false information早在计算机出现之前就大量存在了，manipulation的历史大概跟人类历史本身一样古老(以前写过一条 https://bgme.me/@phyllisluna/113374456313207219 ，这里不展开了)。

关于的DeepSeek这个例子和过去ChatGPT的对比倒是给了我一个新想法：LLM AI本身是不会“思考”的，而是综合/平均/重组它的语料库/training set。正是这个特质让我们有机会去“聚焦”并反向trace到活人提供的语料库里的偏见和各种倾向。DeepSeek的胡编+似是而非论证方式恰恰在某种程度上反映了语料库里(当地/local)活人们试图组织一个论证以说服他人的方式(e.g.文物保护，政府公文)。而DeepSeek和ChatGPT在胡编上的差异或许又折射出了cultural/societal差异。

#ArtificialUnintelligence

**铜仁女啊！啊！** · Feb 06, 2025, 07:35

铜仁女啊！啊！ boosted

**下辈子在无人的地球当一只熊** @[email protected] · Feb 06, 2025, 07:35

Feb 06, 2025, 07:35

下辈子在无人的地球当一只熊 @[email protected]

@nomikomu @savemoney @board 这位朋友提醒一下拼多多的迪卡侬是假货

**铜仁女啊！啊！** · Feb 05, 2025, 08:19 *

铜仁女啊！啊！ boosted

Feb 05, 2025, 08:19 *

Feb 05, 2025, 08:19 *

悲情痞老板：海之霸餐厅濒临倒闭🏳️‍🌈🏴‍☠️ @[email protected]

有个事情，简单说是discord的聊天记录可能被泄露了。想提醒一下fedi里注意信息安全的各位。如果要转出，截图不要把我ID截进去

（以下内容整理自友邻带锁帖，最初发现的人也不是相关专业的，我也不是，只能是发现有这样的事情提醒注意一下，没深入探究。如果fedi网友有新发现请补充）

面向国际市场的中国产ai聊天app“meco”（中国区不能用），被发现能读取Telegram非加密聊天和Discord的聊天记录，方法是让它描述 discord.com/users/id 这个人和自己的关系。发现的网友试了两三个朋友的号，都有显示聊天记录，有tele和discord同名的，telegram记录也泄露了。涉及的聊天记录都截止至几个月前，推测是在ai训练过程中就已经加入。
telegram已经有几次被曝出卖用户信息的事，不过discord记录一模一样还很少听到。有可能是调用的那个基础模型爬过discord，或者discord和reddit一样把数据卖给某家大厂了。不能确定他们用的哪个base model。也没能多试几个discord号。

发出来也就是提醒一下在意的人。大家以后聊天留意一下，吧。

**铜仁女啊！啊！** · Feb 02, 2025, 11:31

铜仁女啊！啊！ boosted

**作风不良，不想打仗** @[email protected] · Feb 02, 2025, 11:31

Feb 02, 2025, 11:31

作风不良，不想打仗 @[email protected]

我发现不明白播客讲仿制药和集采这期下面被troll了十几页几乎一样的留言，持续一整天了还没有停止https://www.youtube.com/watch?v=ZomSPEwYqbo

话说，就算要搞水军攻击，这么搞难道不假得过于明显了吗？就算是用bot，哪有连续十几屏的人都说意思相同的同一句话的？

大家可以找朋友来围观这个评论区，属于是党国试图在墙外评论区搅混水的活例子了吧

fb5b0466aa025b80.png

**铜仁女啊！啊！** · Feb 05, 2025, 21:47 *

铜仁女啊！啊！ boosted

**无躲落而无以言语** @[email protected] · Feb 05, 2025, 21:47 *

Feb 05, 2025, 21:47 *

无躲落而无以言语 @[email protected]

唉麻烦路过的象友扩散消息：1月31日，共装载33.5吨粗苯的运输罐车在湖南永州零陵区发生泄露事故（实际泄露量目前未知）。苯是一级致癌物。
评论区有当地人说在疯抢桶装水，有人说在湘江下游地区但是消息被封锁。我虽然在湖南，但也是今早刷微博才第一次看到。

**铜仁女啊！啊！** @[email protected] · Feb 05, 2025, 13:24

**铜仁女啊！啊！** @[email protected] · Feb 05, 2025, 13:24

Feb 05, 2025, 13:24

铜仁女啊！啊！ @[email protected]

如果说哪吒1还有点人设上的新意，哪吒2在我看来就真是一个及格商业但挺普的动画片而已…………也不是说不能理解嗑到喜欢的部分啥的但是真情实感觉得好觉得爱的是否有点拉了（）就很普啊…………（）

**铜仁女啊！啊！** · Feb 04, 2025, 10:21

铜仁女啊！啊！ boosted

**和网友分享你的CP，快点！** @[email protected] · Feb 04, 2025, 10:21

Feb 04, 2025, 10:21

和网友分享你的CP，快点！ @[email protected]

这句很喜欢给大家伙儿看看

57e8dd05458de39f.jpg

**铜仁女啊！啊！** · Feb 04, 2025, 15:44

铜仁女啊！啊！ boosted

**Nichts, nichts, gar nichts** @[email protected] · Feb 04, 2025, 15:44

Feb 04, 2025, 15:44

Nichts, nichts, gar nichts @[email protected]

这次报警，在警察局等待了6个小时左右。目睹了一些案例，真是对女性遭遇不胜唏嘘。
其中一位女性被男方家暴打到警局。女方肋骨好像断了，行走极其艰难，动一下便疼到痛哭。男方不闻不问，一脸无所谓。我给了她几张纸巾，尽可能安慰她，最后是我搀扶她去做笔录。男方做笔录时，我劝她尽量要警察介入开验伤单子鉴定伤情。她说警察告诉她一旦开了验伤单，男方就要吃牢饭，于心不忍。我告诉她伤情鉴定是家暴重要证据，但也不会直接导致他入狱，决定权在你。她知道我是好心，可也没听。只是和解，男方一副死猪不怕开水烫无所谓爱谁谁的样子。可女方还是心软和解了事。
另一个是二姐妹家里房子动迁，已经分好她和妹妹有房子。但她家弟弟不答应，认为房子应该属于儿子，女儿没资格得到房子，房子和钱都是自己的，遂大闹，并发信息威胁俩姐妹要弄死or找人弄死她们。姐妹俩怕真闹出人命于是报警。
一个是家暴，一个是重男轻女...6个小时，就在警局目睹了这些典型冢椁社会女性的遭遇...唉...