而高考这样的知识性的测验,就很适宜AI大模型去做测试,如果用AI来代替学生去高考,会怎么样?
欸,还真的有人试了。
上海人工智能实验室近日公布了司南评测体系OpenCompass选取开源大模型测试今年高考的全国新课标I卷“语数外”的结果,为了确保“闭卷”考试,大模型的开源韶光早于高考,同时约请有高考评卷履历的西席人工批卷。
选取的大模型分别是OpenAI的GPT-4o、法国的Mixtral 8x22B、零一万物的Yi-1.5-34B、智谱AI的GLM-4-9B、上海人工智能实验室的InternLM2-20B-WQX以及阿里巴巴的Qwen2-57B和Qwen2-72B。
结果成绩最好的是阿里巴巴Qwen2-72B大模型,满分420分的情形下,总分达到了303分;排在第二名的是GPT-4o,得到296总分;排在第三位的InternLM2-20B-WQX,总分在295.5分,成绩还算不错。
但是7款大模型有一个共通问题,便是偏科严重!
语文、英语此类的措辞类型的测试,成绩相对都要好一点,语文均匀得分率为67%,英语更是达到了81%。而数学倾向于打算、公式打算的测试,7款大模型的测试成绩都比较差,乃至最低的仅有21分,最高的也仅有75分,虽然记住了公式,但是不能灵巧运用。
显然,现阶段来说大模型还待提升的空间,对付这样的测试结果,大家还满意吗?