Midjourney操作界面

幻觉问题不解决,夸克们AI志愿填报靠谱吗?

4.8
0热度

AI的免费与智能,也难以掩盖数据偏差与大模型“幻觉”带来的不确定性。当高考志愿填报大模型遇上“幻觉”,被耽误的,是谁的人生?高考结束了,学子们为自己十多年的寒窗苦读给出了一个交代。但紧接着他们将要奔赴第二战场——高考志愿填报。俗话说三分考七分报,志愿填报重要性一点也不亚于高考本身。这段时间,又到了志愿填报各路人马、机构、工具活跃的季节。先是前几天,张雪峰因“在直播间含泪退出”登上热搜。

AI的免费与智能,也难以掩盖数据偏差与大模型“幻觉”带来的不确定性。当高考志愿填报大模型遇上“幻觉”,被耽误的,是谁的人生?

高考结束了,学子们为自己十多年的寒窗苦读给出了一个交代。但紧接着他们将要奔赴第二战场——高考志愿填报。俗话说三分考七分报,志愿填报重要性一点也不亚于高考本身。

这段时间,又到了志愿填报各路人马、机构、工具活跃的季节。

先是前几天,张雪峰因“在直播间含泪退出”登上热搜。视频中,他眼含热泪,跟观众坦诚“动了太多人的蛋糕”“这可能是你最后一次在网上见到我”“我真的已经尽力了”“张雪峰没有对不起任何人”。

随后不到一周,张雪峰又发表“复出宣言”,宣布6月15-6月30日将在快手平台连续进行15场直播连麦。从宣布告别直播到火速付出,反转比翻书还快。

张雪峰大火之外,诸多AI志愿填报工具应运而生

近日,夸克发布首个高考志愿大模型,宣称能为考生专属定制高考志愿填报分析,并且免费开放给所有人使用。面对张雪峰动辄成千上万的咨询费,免费的AI工具似乎是一个更具性价比的选择。

但AI工具同时也潜藏着隐患,因为目前市面上所有的大模型工具都没有解决幻觉的问题。一旦AI志愿填报出现了幻觉,谁来为考生的前途负责?如果所有家长和考生都把希望寄托在AI工具上,到底是技术革新还是误人子弟?

工商专业重点推荐,夸克AI志愿填报靠谱吗?

打开夸克浏览器,可以看到有个一级入口“夸克高考”,整体可以分为志愿预估、专家直播、各大高校排行榜等界面。还在小图标栏有“同分去向”“一分一段”等10个实用小功能。

值得一提的是,在填志愿部分,夸克高考全部接入了张雪峰的视频,打造了一个“张雪峰教你填志愿”栏目。从这一点可以看出,夸克高考填报志愿并不是要取张雪峰而代之,而是定位于一个AI工具,辅助人类做出决策。

在高考热议栏还有“聊志愿”和“许愿墙”两个功能,最后回复时间比较近,“1小时前”“2小时前”,可以看出这个功能使用人数还是比较多的。

点击首页预估成绩按钮后,会跳出来信息填报,填好分数和科目之后,还需要填地域偏好、专业偏好、职业倾向等个人档案。

填好之后,就可以看到相应成绩档位的志愿预估填报了。按照“极点商业”输入的“540分重庆考生,物化生”条件,可以看到下面的志愿填报推荐分为“冲”“稳”“保”三个档次的学校。

输入相应分数后,首先跳出来的是该分数对应的位次“38580”名,这个位次是参考2024年高考信息得来。

在右下角有个“我的志愿”按钮,考生选择自己心仪的学校和专业后,可以在志愿表内看到每个志愿的录取概率。夸克还会生成表格,列出每个专业的分数和位次,更具参考价值。

并且夸克还会根据预估志愿出具一份详细的志愿分析报告。里面包括情况分析、核心填报策略、重点志愿强调、以及志愿风险提示。

值得一提的是,夸克还升级了搜索体验,提升到了AI深度搜索。在对话框里输入相应的问题就可以得到智能回答。例如搜索“540分有什么985推荐”,下面就会跳出来智能回答。让人意外的是,夸克没有根据提问预设筛选一些985高校,而是自动匹配了540分数段对应的院校推荐。

不过夸克推荐的“部分专业就业良好”,有待商榷,不仅出现了天坑的“生化环材”,就连计算机、英语、工商管理,也在就业前景良好重点推荐之列。

计算机程序员的互联网红利早已过去,随着AI翻译的发展,英语就业也越来越难。剩下的市场营销和工商管理,又被戏称为“万金油”专业,就业也是难题。由此可以看出夸克的志愿推荐并不是那么靠谱。

而根据博主“Caber-维克托”测试来看,上述情况在浙江也有出现。夸克重点推荐的“浙江海洋大学计算机系”,不在该校官网前24个专业推荐之列。按夸克的分析,该专业在浙江省内认可度较高,但根据博主说法,业界对此认可度普遍不高。“看上去有模有样的分析,实际上容易形成误导。”

上述博主认为,AI结果和大模型的训练数据、推理能力等息息相关。从夸克AI选志愿实际表现看,训练数据质量并不高,或者推理能力有待提升。

根据“极点商业”搜索来源显示,夸克给出的答案都源于“夸克高考知识库”中,也就是夸克宣称的,夸克的信息服务覆盖2900多所高校、1600个专业及100多个主要城市就业数据。所有数据和信息都是来自官方考试院、官方高校、教育部、行业专家共建等的权威渠道,是可靠的信源。

但是在下图中的搜索源头显示,网易这类第三方非官方网页数据也名列其中,不由得让人怀疑夸克高考搜索的准确性,以及开始担忧大模型的幻觉问题。

除了网易内容,夸克搜索的第三方网页来源还有头条号、以及私人博客。这明显与夸克宣称的“所有信息和数据都来自官方网站或权威渠道”不符。

值得一提的是,搜索框问题明明是“985大学有希望吗?”可夸克搜索的给出的网页结果,却是“热门工科专业有哪些?”未免有些牛头不对马嘴。

幻觉问题没解决,谨防大模型误人子弟

众所周知,志愿填报是影响人生一辈子的大事。其重要程度不亚于高考本身,甚至更甚,能够改变一个人的前途和命运。正因如此,家长不惜一掷千金,养活无数价格高昂的志愿填报服务机构。

高考志愿填报费用已经破万,张雪峰推出12999元的梦想卡和18999元的圆梦卡,上线20钟即售罄,反映了高考志愿填报背后家长们的焦虑与期盼。

高考志愿填报本质上是一门信息差的生意,但信息差会随着政策透明化和市场竞争而逐渐缩小。眼下,AI技术发展让教育普惠成为可能。更多没钱报志愿服务的人,可以借助互联网与AI技术打破信息差,自己进行志愿填报。

问题是,看似向好局面下暗潮涌动。例如,至今几乎所有AI大模型都未彻底解决幻觉问题,数据和资料胡编乱造、来源不明比比皆是,其风险就可能误人子弟。

逻辑思维联合创始人“快刀青衣”就表示,一旦AI高考大模型出现幻觉问题,向考生推荐了错误的志愿填报信息,导致考生无法被心仪院校录取甚至滑档,这个责任谁来承担?谁来为考生的前途负责?

在夸克大模型的早期训练过程中也出现过幻觉现象,出现了一些不符合实际的情况。例如只要考生提及中外合作,模型就会把中外合作排序优先,但实际上中外合作费用高昂,且属于特殊招生,应该往后放。还出现了给500分考生推荐985院校的情况。

从“极点商业”最新测试来看,虽然夸克不再给540分考生推荐985院校了,但是大模型始终会出现幻觉,无论再怎么降低,这个概率也不会是0。即使只有万分之一,在志愿填报这种人生大事上,一旦遇到了就无法挽回。

例如,在社交平台上就有人发现夸克高考的数据跟官方数据对不上。

以福建中医药大学为例,“康复物理治疗”专业在湖南省2023年夸克高考上的分数线为490分,而根据官方数据该项分数为419分。

该发言为2024年,而2025年的现在“极点商业”去夸克官网上查询该数据,已经校准为419分。不过该数据错误对于2024年的考生而言,却有着极大的影响。

2024年被影响的还不止上面一位,还有用户在社交平台上曝出,自己是2024年的江西考生,物理组高考442分,他尝试用夸克来填报志愿,结果所有学校都滑档了。

在更早的2023年,被影响的人就更多了。“夸克不可信”“志愿滑档”“一本的分数却报了二本大学”“非常后悔”。

再比如,极点商业这次测试的考生信息为“重庆物化生540分,名次38580。”在推荐报考的院校里,分为“冲稳保”三挡。

令人费解的是,对于540分段而言,528分居然比533分更“难”录取。看下图的示例,分数为533,位次42243的安徽理工大学,信息显示录取概率为59%,可以“冲”。

而分数为528,位次为44926的江苏科技大学,却列入了“难录取”的范围,录取概率只有19%。这一反直觉反逻辑的排名规划,真是让人有些看不懂。

除了大模型幻觉问题,还有用户在社交媒体上晒出使用夸克填报志愿的真实感受,指出了夸克填报志愿的一些弊端。例如夸克只有上一年最低分的数据,有可能这个分数是别人补录捡漏得来的,这样的话今年冲这个学校就很容易滑档,或者就是被调剂到垃圾专业。

也有人认为,夸克高考志愿的数据是准确的,但是预测就不太准了。就比如夸克高考上面的院校信息、分数线、招生计划都是准确的,可是给“极点商业”推荐的报考院校概率自相矛盾,档次划分混乱。如果真按夸克高考推荐的“冲刺”“保底”去填报志愿,可能也会落得“滑档”的下场。

在社交媒体上,无论是考生、高考志愿填报专家、AI大模型负责人,越来越多的人正在形成共识:虽然AI志愿报告已经到达了一定的专业水准,但是不能完全依靠AI做出志愿决定,更多的还是要靠考生自己和家长综合商量做出决定。

高考志愿填报,是人生十字路口的关键抉择。夸克大模型等AI工具的出现,为考生打破信息差,其普惠初衷值得肯定。但是,当大模型遇上“幻觉”,其推荐的可靠性就被打上了问号。从推荐“天坑专业”到用户的“滑档风险”,都在让我们警醒AI便利下的波涛汹涌。

AI的免费与智能,也难以掩盖数据偏差与大模型“幻觉”带来的不确定性。夸克大模型可以是一个强大的信息库,提供数据参考进行辅助,但绝不是唯一的决策大脑。更不能替代考生对人生路径的主观判断,无法兼顾考生的兴趣、能力、未来规规划与职业梦想。

因此,我们可以使用AI工具,但绝不能只使用AI工具。高考填报,更多的是考验人对自身需求的透彻认知,是十八岁的学子们成年后的第一个“大考”。高考志愿填报的钥匙永远属于考生自己,而这将决定他会打开怎样的命运之门。

别把前途轻易押注给任何人,或者任何先进的AI智能体。

审慎前行,方不负十年寒窗。

本文来自微信公众号“极点商业”(ID:jdsy2020),作者:极点商业,36氪经授权发布。

点赞(0)
顶部