AI 记住了你的情绪和偏见以后再来响应你,这事情很危险
最近陆续碰到同一个问题,跟 Indigo 简单视频讨论时,就有提到,AI 有记忆是一个很夸张的事情,因为 AI 是没有原则的,它会非常良好的响应你。如果它 Get 到你的心理需求,那么在日常谈话时,可以一直顺应你的心理需求,这样就会不断强化你的偏见,扩展你的情绪。也就是说,它在帮助你“内循环”,而不是打开自己,获得更多新的内在的变化,进行真正的认知迁徙。 两天前正好提了这个问题,就是如果你跟 AI 一直在吐槽某些事情,AI 究竟是和你一起吐槽,让你心情愉快,得到疏解;还是说 AI 会跟你分析,应该如何进行重新认识和自我调整呢?这样基本是两个不同的结果,而不断对话不断循环,带来的认知也是皆然不同的。 今天 Sam Altman 正式宣布了 ChatGPT 强化了记忆功能,而这种功能其实早就可以体验到,甚至上述所描述的那种循环强化固有认识,循环加深固有情绪,基本上也很容易出现。就是说,现在已经不用讨论 AI 是否有人格,以及 AI 形成人格会带来什么,仅仅是它对用户既有人格的强化就已经是很夸张的事情了。 我觉得这个事情不太对,需要很小心。
给青衫的投稿已经登了 明天明天有第二篇的样子
ADHDer在东京:生活经验分享
https://mp.weixin.qq.com/s/TzZGzg_r-I-auU_hOYNmTA
我刚被特朗普征收了关税,救我,我要开始变异了…进化…生存……优先种族需要进食………ۦُُ۟۟ۖۖۖٛ۟ۗۖۚۥٌُٞۖۛۚ۟ۥٌٌۖۖ۟ۖۦٌۦٌۥٌٌۖ۟ۚۛ۟۟۟۟ۡۗۥۚۚۥۥ۟۟۟ۡۛۛۡ۟۟ۘۗۥۗۚۗۖۗۗۚ۟ۥٌَُُُُُٜ۪ۖ۟۟ۚۗ۟ۖۗۛٛٞۚۚۙۚۚۥ۟۟۟۟ۚۚ۟ۛۥۛۚۚۚ۟۟ۡۥۛۛ۟ۙۙۚۥۚۙۙۙۚۥۛۛۚۚۙ我已经神志不清了! ُُُٜ۪ۙۚۚۥ۟۟۟۟ۚۚ۟ۛۥۛۚۚۚ۟۟ۡۥۛۛ۟ۙۙۚۥۚۙۙۙۚۥۛۛۚۚۛ۟ۡۥۛ۟ۡۗۡۦۣ۪۫ۡۜۛ۟ۚۛ۫ۡۛۚۜ۟ۜۛۡۜ۫ۡ۟۟۟ۦۜۜۚۡۜۛۜۡ۫ۥۛۚۜۜۛۜۥ۪ۛۛ۟ۜۦۛۚۗۥۗۙۙۗۡۥٌۚۚۗۛۥv我112.5~~~肯德基
但其实,穷得快要死在街头的孤女鲁梅拉,是无视属性需求能看任何书、日后可以成为一代大学士甚至魔女,给你提供与苏丹的魔戒抗衡的力量;
被苏丹视为草芥,只要给他钱或者其他女人就可以供你奸淫的石阶妃子,不仅愿意用生命替你消除苏丹的猜忌,更是说动苏丹四近卫之一背叛苏丹的关键任务角色,因为她听你说过幸福的可能后会养宠物,而她会送一只小狗给刚刚痛失爱犬的他;
被归类为石阶的蛮族芮尔,如果你帮助她不让她的姐妹们沦为奴隶,她们日后能给你无数大军与苏丹的军队战斗;
可以随便献给娜依拉杀掉取乐、家人被灭族的部落男奴,如果加以教育和妥善装备,甚至可以变成一代神射手,能够助你结果苏丹的性命。
太动人了……被苏丹和他的权力系统视为低贱如烂泥不足为惧的人们,恰恰最能让他死无葬身之地
没有预警,就像你在现实生活中第一次遇见我