从南山博物馆到深圳南山书城,步行距离大约1.9公里。换做平常,我大概率就走着过去了。可这次实在站得太久,身体有些疲惫,加之中午没吃饭,肚子饿得咕咕叫,便选择坐地铁前往,中途还换乘了9号线。
昨天晚上收到
东方财富证券的短信,提示我中签了一手
志邦转债,需缴款1000元。一看账户余额不够,今天早上特意转了1000元进去。结果打开账户,满眼尽是绿色,持仓一片飘跌,心情瞬间低落。
不过,就像今天在南山博物馆看展览时感悟到的一样,当把眼光放到10年、100年甚至1000年的历史长河中去看,股票的一时涨跌真的算不了什么。想想5年或者10年前,
福耀玻璃的股价相较于现在,那是相当低。可人们总是忍不住频繁操作,究其原因,我觉得人类刻在基因里的感觉、情绪以及自认为的理性,都并非完全可靠。大脑一方面在平衡我们的心态,另一方面也会自我欺骗。许多认知行为分析表明,大脑会虚构一些现实,好让我们对历史上发生的不好的事件“蒙混过关”,至少能让自己心里好受些。
说到这儿,我想起最近看到的一个关于AI“幻觉”的视频。当AI的资料信息库中仅有60个事实,而你却要求它给出100个事实时,它就会凭借“感觉”生成另外40个事实,然后一并呈现给你。这时,你可能会误以为它真的提供了100个真实信息。一旦它资料不足,就存在虚构内容的风险。当然,我们或许可以期待
人工智能大语言模型能明确标识出哪些内容是虚构的,哪些是有真实依据的,但这实现起来难度颇大。因为当我们向它提问,它进行深入思考时,如果涉及的知识面广、思维链长,从三维角度来看,很难做到面面俱到。为了快速给出结果,它可能就会虚构一些事实,或者在某些逻辑点上直接给出假设,好让整个回答自圆其说。倘若涉及的点较少,比如只有5个或10个,我们还能深入检查。可要是涉及的点众多,事情本身又极为复杂,人类几乎难以逐一检查其逻辑链。
有一种方法或许可行,那就是以彼之道还施彼身,当一个AI给出深度思考的链条或过程时,我们把这个过程发给另一个AI进行审核。理论上确实行得通,但实际操作起来需要手动复制粘贴发送,比较麻烦。还有一种设想,就是一个软件集成两个甚至三个大语言模型,比如集成三个,其中两个原始模型用于生成内容,一个审核模型负责对前两个模型给出的思维链等进行整合与审核,将那些有事实依据、逻辑链强的内容保留,对虚构内容进行矫正,最后做融合处理,我觉得这或许是未来的发展方向。当然,像ChatGPT到了5.0版本时,说不定不再基于概率推理,而是从更严谨的数学和逻辑学角度,进行强逻辑推理,如此一来,得出的结论理论上会更加可靠。但为了避免单个模型出现明显问题,最好还是采用类似AB角的方式,让两个模型相互监督,一个负责解决问题,另一个负责审核,下次角色互换,交叉进行。