
副局长自费购买10亿token,花了将近一个月时间,手搓防汛小程序的新闻,这几天保持居高不下的热度。(北京密云一副局长自购10亿token,“手搓”防汛App)



不少人在评论区猜测,10亿token究竟是多少钱?有人说差不多几百元,甚至还有人说要上万。直到后来,这位副局长自己公开了实际花费,只有20多块钱。他购买了一个包年套餐,200多元,折合到一个月,差不多是这个费用。
真相大白了,但是这个前后价差的对比,其实很值得关注。这说明,在token消费领域,目前还没有形成公众认知的普遍的标准。
此前网友的猜测,也是有真凭实据的。从公开的信息来看,比如某通讯运营商的套餐,差不多每个月10块钱,但是只能买1000万token,想达到10亿这个规模,这之间差了100倍,也就是说要花1000块钱。
所以说到这,忍不住要感叹一句:这位局长,您真的很会选套餐。但是,对大部分人来说,面对众多的token套餐,其实是不知道怎么选的。
现在,全市场有50多个主流的AI模型服务商,但是他们的价格、能力可以说是参差不齐。
“同样的代码任务,别人的Token账单怎么比我便宜那么多?”“服务商是不是偷偷给我换模型了?”不少开发者在使用时有这样的疑问。
有媒体调查发现,解“鸡兔同笼”这一道题,使用同一个模型,在不同平台上,消耗的token数量可以达到10倍的差距。所以,如果没有选择好服务商,token消费很有可能就变成一个吞金兽。
这背后的问题就是,token到底值多少钱?这个市场该怎么定价?
此前,中国信息通信研究院联合包括天翼云、华为云、清程极智等十余家企业召开研讨会,探讨怎么在市场中,提供可信的token云服务。
因为人们发现,token消费就像是一个黑盒。比如,其中一个标准叫做“缓存命中率”,它与成本计算关系非常大。
调用大模型时,最消耗token的往往是多轮对话。因为ai会把之前所有的对话从头读一遍,账单就像滚雪球一样。
“缓存命中”就是拿之前计算过的结果直接用,不用针对每个对话重复计算了,相当于省钱了。
但是有些服务商明明命中了90%,但他跟你说只命中10%,这就是能从中赚差价的空间。
清华大学翟季冬教授团队和清程极智对主流服务商做了一个测评,就发现各服务商的表现相差很大。因此,打破信息差,引入规范和标准,就非常关键。
不过,未来更关键的,其实还是通过技术迭代,将token价格打下来。就像现在,人们似乎对自己的流量套餐是30g还是100g,已经不介意了,因为流量的价格降下来了。而现在的token,就像是互联网刚兴起那个阶段的流量。
未来,只有让token价格足够便宜,它才会真正像水电气一样,走进千家万户。
你认为
现在的token价格怎么样?
欢迎来评论区交流一下~
来源:光明日报
聚丰策略提示:文章来自网络,不代表本站观点。