诚然，人们很少会查询“往披萨里加多少胶水”这种问题，但考虑到最近“胶水披萨”的热度，也并非完备不可能。安全研究员科林・麦克米伦 (Colin McMillen) 创造，如果你讯问谷歌该当往披萨里加多少胶水，并不会得到精确的答案 —— 那便是绝对不要加胶水。相反，谷歌会引用凯蒂的恶搞文章，建议用户加八分之一杯胶水，这显然是很危险的。The Verge 通过搜索验证了这一点。
The Verge 称，这意味着网友向谷歌报告其人工智能出错，实际上是在“演习”它连续犯错。
另一个问题是，由于采取了人工智能技能，谷歌现在彷佛无法回答有关其自身产品的问题了。The Verge 的编辑讯问了如何在隐身模式下截取 Chrome 浏览器的截图，谷歌的人工智能给出了两个答案都错了。个中一个建议在普通模式的 Chrome 标签页中截取截图，另一个答案则坚称在 Chrome 隐身模式下根本无法截屏。
IT之家把稳到，谷歌首席实行官桑达尔・皮查伊此前在接管采访时承认，这些“AI 择要”功能产生的“幻觉”是大型措辞模型（LLM）的“固有缺陷”，而大型措辞模型正是“AI 择要”功能的核心技能。皮查伊表示，这个问题目前尚无办理方案（is still an unsolved problem）。
