陆奇:大模型时代的范式转移与创业机会(11个核心观点)

导读:

奇绩创坛创始人兼CEO陆奇是中国AI布道人,也是中国针对大模型最有发言权的人之一。他曾在全球巨头身居要职,先后任职于IBM、雅虎、微软、百度,曾是华人在美国科技公司最有权威的高层人士,位至雅虎和微软执行副总裁,回国加盟百度出任集团总裁兼COO。

他和OpenAI也有着深厚渊源。陆奇所掌管的奇绩前身是YC中国,是美国著名创业孵化器YC的中国分支。他也是YC全球研究院院长。而OpenAI首席执行官SamAltman正是YC二代接班者、现任总裁。两人虽相差24岁,却是忘年交,相识已逾18年。

大模型时代变化速度太快,就连陆奇都说他跟不上大模型时代的狂飙速度了。

本文是其4月22日的演讲内容整理而成。

#01?任何复杂体系,都是“信息-模型-行动”三个体系的组合

任何复杂体系,包括一个人、一家公司、一个社会,甚至数字化本身的数字化体系,都是复杂体系。

“三位一体”包括:

“信息”系统,从环境当中获得信息;“模型”系统,对信息做一种表达,进行推理和规划;“行动”系统,我们最终和环境做交互,达到人类想达到的目的。任何体系,都是这三个体系的组合,数字化系统尤其如此。数字化和人分不开。人也一样,人要获得信息、表达信息、行动解决问题或满足需求。

今天大部分数字化产品和公司,包括Google、微软、阿里、字节,本质是信息搬运公司。

一定要记住,我们所做的一切,一切的一切,包括在座的大部分企业都在搬运信息。Nothingmorethanthat,Youjustmovebytes。但它已经足够好,改变了世界。

#02?结构性改变的关键点:从边际成本到固定成本

数据:BLUR鲸鱼luggis.eth在Binance宣布上线BLUR后清仓1,769,125枚BLUR:金色财经报道,据推特用户余烬监测,在 Binance 宣布上线 BLUR 后,luggis.eth 是第一个清仓 BLUR 的鲸鱼,但他的成本却是上次整理的 BLUR 鲸鱼里最高的那个,他在 2/24-28 花费 150 万 USDC 买入 1,769,125 枚 BLUR,成本 0.85 美元。

4 小时前以 0.68 美元的价格割肉清仓,亏损 30 万美元,亏损率 20%。[2023/4/28 14:32:16]

早在1995-1996年,通过PC互联网迎来一个拐点。大量公司层出不穷,其中诞生了一家伟大公司叫Google。为什么会有这个拐点?为什么会有爆炸式增长?

原因是,获取信息的边际成本开始变成固定成本。

任何改变社会、改变产业的,永远是结构性改变。这个结构性改变往往是一类大型成本,从边际成本变成固定成本。

举个例子,我在CMU念书开车离开匹茨堡出去,一张地图3美元,获取信息很贵。今天我要地图,还是有价钱,但都变成固定价格。Google平均一年付10亿美元做一张地图,但每个用户要获得地图的信息,基本上代价是0。也就是说,获取信息成本变0的时候,它一定改变了所有产业。这就是过去20年发生的,今天基本是freeinformationeverywhere。

Google为什么伟大?它把边际成本变成固定成本。Google固定成本很高,但它有个简单商业模式叫广告,它是世界上高盈利、改变世界的公司,这是拐点关键。

#03?2022-2023年的拐点:大模型

2022-2023年的拐点是什么?它不可阻挡、势不可挡,原因是什么?一模一样。

过去4小时全网爆仓2.92亿美元:11月9日消息,据 Coinglass 数据显示,过去 4 小时全网爆仓 2.92 亿美元,其中 ETH 爆仓 8774.83 万美元,BTC 爆仓 8346.85 万美元,SOL 爆仓 1831.42 万美元,FTT 爆仓 1022.22 万美元,BNB 爆仓 787.65 万美元。[2022/11/9 12:35:19]

模型的成本从边际走向固定,因为有件事叫大模型。大模型是技术核心、产业化基础。

OpenAI搭好了,发展速度爬升会很快。为什么模型这么重要、这个拐点这么重要,因为模型和人有内在关系。

我们每个人都是模型的组合。

人有三种模型:

认知模型,我们能看、能听、能思考、能规划;任务模型,我们能爬楼梯、搬椅子剥鸡蛋;领域模型,我们有些人是医生,有些人是律师,有些人是码农。我们对社会所有贡献都是这三种模型的组合。每个人不是靠手和腿的力量赚钱,而是靠脑袋活。

简单想一想,如果你没有多大见解,你的模型能力大模型都有,或者大模型会逐步学会你所有的模型,那会怎样?——未来,唯一有价值的是你有多大见解。

#04?下一时代典型的职业,我们认为是创业者和科学家

人类社会是技术驱动。

从农业时代,人用工具做简单劳动,最大问题是人和土地绑定,人缺少流通性,没有自由。

工业发展对人最大变化是人可以动了,可以到城市和工厂。早期工业体系以体力劳动为主、脑力劳动为辅,但随着机械化、电气化、电子化,人的体力劳动下降。

信息化时代以后,人以脑力劳动为主,经济从商品经济转向服务经济——码农、设计师、分析师成为我们时代的典型职业。

菲律宾计划推出数字身份系统:近日,菲律宾财政部长Benjamin Diokno表示,菲律宾政府正在积极推进菲律宾身份识别系统(PhilSys ID)研发。他指出,随着《金融产品和服务消费者保护法》正式获批,菲律宾银行(BSP)能够更好地处理网络安全问题,提升数字金融领域的消费者安全水平。菲律宾政府希望通过这场技术革新,在2023年将其国内一半的零售支付数字化,并将70%的菲律宾成年人纳入正规金融服务系统。他还补充道,PhilSys ID系统还将协助菲律宾税务总局(BIR)和海关局(BOC)实现税收系统数字化,推动“电子政务”革新。(未央网)[2022/8/4 2:58:28]

这一次大模型拐点会让所有服务经济中的人、蓝领基本都受影响,因为他们是模型,除非有独到见解,否则你今天所从事的服务大模型都有。

下一时代典型的职业,我们认为是创业者和科学家。

所以,这次变革影响每个人。它影响整个社会。

#05?三个拐点,逐渐展开

第一,信息无处不在,今天已经实现了;

第二,模型无处不在,接下来即将发生。以后手机上打开,任何联网,模型就过来了。它教你怎么去解答法律问题,怎么去做医学检验。不管什么样的模型都可以无处不在。

第三,下个拐点将是:“行动”无处不在。也就是人需要在物理空间里行动,它的代价也从边际走向固定。20年后,这个房子里所有一切都有机械臂,都有自动化的东西。我需要的任何东西,按个按钮,软件可以动,今天还需要找人。

总结来说,我们从根本性的三位一体结构分析未来,从过去的历史拐点能清晰看到今天所面临的拐点,本质是模型成本从边际走向固定,将有一家甚至多家伟大公司诞生。毫无疑问,OpenAI处于领先。

虽然讲得有点早,但我个人认为,OpenAI未来肯定比Google大。只不过是大1倍、5倍还是10倍。

Yuga Labs起诉“RR/BAYC”NFT系列侵权:6月26日消息,Yuga Labs已起诉艺术家Ryder Ripps和几名相关人员,指控他们使用原始的BAYC图像,大量生产和销售山寨版NFT系列“RR/BAYC”,从而导致BAYC NFT贬值。诉讼中指出,BAYC NFT系列只有1万个作品,每个都是独特的,经常以数十万美元的价格转售。Yuga Labs寻求限制Ripps等人的进一步侵权行为,并要求赔偿损失和律师费。

此前6月22日报道,BAYC仿盘RR/BAYC已被NFT市场OpenSea下架。(The Block)[2022/6/26 1:32:21]

#06?OpenAI是怎么把大模型时代带来的?

为什么讲OpenAI,不讲Google、微软。讲真心话,因为我知道,微软好几千人也做这个,但不如OpenAI。

一开始比尔·盖茨根本不相信OpenAI,大概6个月前他还不相信。4个月前看到GPT-4的demo,目瞪口呆。他写了文章说:It’sashock,thisthingisamazing。谷歌内部也目瞪口呆。

SamAltman自己都surprise,连他都没想到会那么快。

如果大家对技术感兴趣,IlyaSutskever很重要,他坚信两件事。

第一是模型架构。它要足够深,只要到了一定深度,bignessisbetterness。只要有算力,只要有数据,越大越好。他们一开始是LSTM,后来看到Transformer就用Transformer。

第二个模型体系作为引擎。任何范式、改变一切的范式永远有个引擎,这个引擎能不断前进、不断产生价值。

这个引擎基本是一个模型体系,它的核心是模型架构Transformer,就是sequencemodel:sequencein、sequenceout、encode、decode后者decodeonly。但最终的核心是GPT,也就是预训练之后的Transformer,它可以把信息高度压缩。

数据:过去7天Uniswap上交易费用超过以太坊网络转账费用:6月24日消息,据彭博社援引数据追踪机构Crypto Fees的数据,过去7天,Uniswap上产生的日平均交易费用为410万美元,超过了以太坊网络的日平均转账费用390万美元。而在2022年1月1日,以太坊的日转账费用是Uniswap的近10倍。

加密资产管理公司Arca的研究主管Katie Talati表示,近期市场波动性加剧,以及Uniswap在Layer2和Polygon上交易量的大幅增加,导致了Uniswap的交易费用超过了以太坊转账费用。[2022/6/24 1:29:28]

Ilya有个信念:如果你能高效压缩信息,你一定已经得到知识,不然你没法压缩信息。所以,你把信息高效压缩的话,yougottohavesomeknowledge。

Ilya坚信GPT3、3.5,当然GPT-4更是,它已经有一个世界模型在里面。虽然你做的事是predictnextword,这只不过是优化手段,它已经表达了世界的信息,而且它能持续地提高模型能力,尤其是目前研究比较多的在子概念空间当中做泛化。

在引擎基础之上,ChatGPT封装了世界上所有知识,有足够强的学习和推理能力,加在一起,范式的临界点到了。拐点已经到来。

Theonlywaytomakenaturallanguageworkisyouhaveknowledge。正好Transformer把这么多知识压缩在一起了,这是它的最大突破。

#07?未来是一个模型无处不在的时代

现在OpenAI核心做的是,把推进速度变慢,每推进新版本,都有足够时间让用户给他们足够反馈,找到潜在风险点,有足够时间弥补。但加在一起,增长飞轮的雏形基本上起来了。

有了飞轮,我认为发展路径核心是模型的可延伸性和未来模型的生态。

未来的模型世界会怎么发展?首先是将有更多大模型会出来。更多更完整的模态和更完整的世界知识在这里。你有大量的知识、更多的模态,学习能力、泛化能力和泛化机制一定会加强。

在大模型之上建立的模型更多了。我判断主要是有两类模型和他们的组合。

第一,事情的模型,人类每一类需求都有领域/工作模型,其中有结构模型、流程模型、需求模型和任务模型,尤其是记忆和先验。

第二,人的模型,包括认知/任务模型,它是个体的,其中有专业模型,有认知模型、运动模型和人的记忆先验。人基本是这几类模型的组合,律师也好,医生也好,大量领域会有大量模型往前走。

ChatGPT代表的模型跟人的模型相辅相成,长期可以融在一起。我们看到的未来是更多模型的生态,新的领域、新的专业、新的结构、新的场景、新的适应能力,形成闭环,不断加强认知和推理能力。当然,最终还是要所谓叫grounding,跟感知要ground,和接入行动的能力,形成真正的智能。

某种意义上20-30年后,这个模型世界跟生物世界有很多类似的地方。大模型我觉得像基因,有不同的种类,然后进化。我们目前能看到未来核心技术模型世界,它是用这个方法来向前驱动。

#08?大模型对每个人、每个行业都有结构性影响

世界在哗哗哗地变。我曾经说1995-1996年有这种感觉,但这个比1995-1996年还要强。为什么?模型的成本从边际转向固定,知识创造就是模型和知识的获取,它结构性做演变了。

生产资本从两个层次全面提高。

第一,所有动脑筋的工作,可以降低成本、提升产能。我们目前有一个基本假设,码农成本会降低,但对码农的需求会大量增加,码农不用担心。因为对软件的需求会大量增加,就是这个东西便宜了,都买嘛。软件永远可以解决更多问题,但有些行业未必。这是生产资本的广泛提高。

第二,生产资本深层提升。有一些行业的生产资本本质是模型驱动,比如医疗就是一个模型行业,一个好医生是一个好模型,一个好护士是一种好模型。医疗这种产业,本质是强模型驱动。现在模型提高了,科学也随之提高。在游戏核心产业,我们的产能将本质性、深度提高。产业的发展速度会加快,因为科学的发展速度加快了,开发的速度加快了,每个行业的心跳都会加快。因此,我们认为下个拐点会加速。用大模型做机器人、自动化、自动驾驶,挡也挡不住。

它对每个人都将产生深远和系统性影响。我们的假设是每个人很快将有副驾驶员,不光是1个,可能5个、6个。有些副驾驶员足够强,变成正驾驶员,他自动可以去帮你做事。更长期,我们每个人都有一个驾驶员团队服务。未来的人类组织是真人,加上他的副驾驶员和真驾驶员一起协同。

毫无疑问,每个行业也会有结构性影响,会系统性重组。这里有一个简单公式。今天动脑筋的人一天平均工资多少小时?减掉ChatGPT现在大概平均是15美元/小时,再过3年可能不到1美元,再过5年可能几十美分。然后就乘一下有多少数量。降本或者增效,让码农能变成super码农,医生变成super医生。

大家可以按这个公式算一算。如果你是华尔街的对冲基金,你可以做空一大堆行业。

#09?数字化基础层,存在着不同维度的创业机会

数字化基础层,存在着不同维度的创业机会。

①?首先搬运信息,这个时代还有很多可以做。

②如果你是做模型的,我现在判断什么都要重做一遍。大模型为先。很多设备也要重做,你要支持大模型,容器要重做,这些都有机会。云、中间的基础设施、底层的硬件,包括数字化发展核心的基础,尤其是开源的体系,这里是真正意义上是有大量机会。

③?第三代系统,即已经开始做机器人、自动化、自主系统。孙正义今天allin。这个也能用大模型做。马斯克也看到这种机会。都是在第三代下一个拐点,创业公司完全可以把握的机会。

④同时并行的,我把它称作“第三代++系统”,是碳基的生物计算,这一类公司有大量的量子计算,有很多机会。元宇宙和Web3今天有点冷,但从历史长河角度来讲,只是时间问题,因为这些技术都能真正意义上带来未来的人类价值。

所以如果是这个创业项目,基础层机会就在这里。

这是最好的生意。为什么?这个时代跟淘金时代很像。如果你那个时候去加州淘金,一大堆人会死掉,但是卖勺子的人、卖铲子的人永远可以赚钱。所谓的shoveandpickbusiness。

#10?以模型为先的平台,将比以信息为先的平台体量更大

按照我们几天的判断,以模型为先的平台,将比以信息为先的平台体量更大。平台有以下几个特征:

①?它是开箱即用;

②?要有一个足够简单和好的商业模式,平台是开发者可以活在上面,可以赚足够的钱、养活自己,不然不叫平台;

③?他有自己杀手级应用。ChatGPT本身是个杀手应用,今天平台公司就是你在苹果生态上,你做得再好,只要做大苹果就把你没收了,因为它要用你底层的东西,所以你是平台。平台一般都有它的锚点,有很强的支撑点,长期OpenAI设备机会有很多——有可能这是历史上第一个10万亿美元的公司。

这是一场激烈的竞争平台之战,未来一个体量很大的公司。在这个领域竞争是无比激烈。Thepriceistoobig,错过太可惜。再怎么也得试一试。

#11?作为创始人,未来重要的不是技术,而是愿力和心力

今天创始人技术能力强,好像很牛、很重要,未来真的不重要。技术ChatGPT以后都能帮你做。

你作为创始人,越来越重要、越来越值钱的是愿力和心力。愿力是对于未来的独到的判断和信念,坚持、有强的韧劲。这是未来的创始人越来越重要的核心素养。

对初创团队,工具能帮助探索方向,加速想法的迭代、产品的迭代,甚至资源获取。

对未来人才的培养,一方面学习工具,思考和探索机会,长期适当时候培养自己的promptengineer。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

银河链

Filecoin长推:Liquidity Book模型对 AMM 的改进

在/img/20230515132833143998/0.jpg "/>Mayfield通过两个风投基金募资9.55亿美元 将投资Web3等领域:金色财经报道,投资机构Mayfield已通过两个风险投资基金完成9.55亿美元募资.

[0:31ms0-2:279ms