官方网站-首页官方网站-首页

科技有限公司
商店{联系电话}400-86503662搜索本站
雷涛:未来的AI,需要自主生产数据来训练自己
雷涛:未来的AI,需要自主生产数据来训练自己
2025-04-08 11:30:35
摘要:
“我们建设的各种算力基础设施,构建的庞大算力,不能仅仅供给AI企业,更应扩展视野,服务于千行百业。”近日,由北京市科(kē)协(xié)、北(běi)京(jīng)科(kē)技(jì)记(jì)协(xié)组(zǔ)织(zhī)的(de)“首(shǒu)都(dōu)科(kē)技(jì)人(rén)”宣(xuān)传(chuán)活(huó)动(dòng)中(zhōng)天(tiān)云(yún)数...

“我们建设的各种算力基础设施,构建的庞大算力,不能仅仅供给AI企业,更应扩展视野,服务于千行百业。”近日,由北京市科(kē)协(xié)、北(běi)京(jīng)科(kē)技(jì)记(jì)协(xié)组(zǔ)织(zhī)的(de)“首(shǒu)都(dōu)科(kē)技(jì)人(rén)”宣(xuān)传(chuán)活(huó)动(dòng)中(zhōng)天(tiān)云(yún)数(shù)据(jù)CEO、第(dì)九(jiǔ)届(jiè)吴(wú)文俊(jùn)人(rén)工(gōng)智(zhì)能(néng)科(kē)学(xué)技(jì)术(shù)发(fā)明(míng)奖(jiǎng)获(huò)得(de)者(zhě)雷(léi)涛(tāo)如此阐述自己对人工智能所需算力的理解。

雷涛是中国第一代Java开发者之一,20世纪90年代参与制定了存储行业国际标准,2000年,他推动云计算落地,后又带领团队一直深耕数据智能赛道。

坚持“做原创”,开发国产自研数据库

作为IT行业知名数据专家、首批中国计算机学会(CCF)大数据专委会委员,雷涛对于数据的价值有着独到的认识。他认为,“数字经济时代,我们要给数据赋能,让数据服务大众。如何做到这一点?首先需要新一代的基础设施,而数智技术搭建的正是这样一种大平台。”

而他自己,就是一个数据基础设施的搭建者。2010 年,当分布式数据和机器学习(AI)的曙光初现时,雷涛凭借敏锐的洞察力,毅然投身到这一领域,带领团队研发国产自研数据库。

其实做一个数据库工程并不难,把应用场景打磨好,一两年时间就可以实现快速盈利,但雷涛果断选择了“做原创”。

“做原创产品,才是下一代产品的核心命脉,工程只是在上一代产品上做延续性创新,无法支撑基础设施。”雷涛把几乎全部的资金都用在了研发上,可最初推向市场的时候,却经常被客户质疑。

但这所有的难,并没有让雷涛打退堂鼓,他最终开发出一套基于Go语言纯自研的HTAP数据库产品Hubble。这套数据库通过中国软件测评中心的源代码测试,系统自主研发率达到99.62%,完全符合国家信创战略,解决了基础设施“卡脖子”的难题。

有了自研的数据库,就有了未来面对国际巨头能够立足的底气与根本。雷涛说,现在机器传感物联网的数据时代已经到来,大量的数据通过设备或者产业服务产生出来,“而在我们搭建的基础设施之下,能诞生更多类似ChatGPT的智能应用。我们只要把数字基建搭好,把平台不断完善,数据就能真正服务每一个人。”

近年来,人工智能的快速发展深刻地改变着各个行业的格局。2019年,资本市场剧烈震荡,伞形信托引发的配资乱象让传统规则监管束手无策。雷涛带领的天云数据团队另辟蹊径,将600万正常账户数据与2000多个问题账户“喂”给深度学习模型,让人工智能自主发现人类难以察觉的异常模式。

“就像训练警犬识别新型毒品,我们不需要告诉它化学成分,只需让它记住气味。”雷涛说,这套系统将监管效率(lǜ)提(tí)升(shēng)数(shù)个(gè)量(liàng)级(jí),成(chéng)为(wèi)“证(zhèng)监(jiān)会(huì)版(bǎn)”监(jiān)管(guǎn)沙(shā)盒(hé)项(xiàng)目(mù)之(zhī)一(yī)。

他(tā)拿(ná)出(chū)手(shǒu)机(jī)展(zhǎn)示(shì)团(tuán)队(duì)研(yán)发(fā)的(de)工(gōng)业(yè)检(jiǎn)测(cè)系(xì)统(tǒng),AI通(tōng)过(guò)3D点(diǎn)云(yún)数(shù)据(jù),能(néng)像(xiàng)资(zī)深(shēn)技(jì)工(gōng)般(bān)“摸(mō)”出(chū)精(jīng)密(mì)零(líng)件(jiàn)的(de)微(wēi)米(mǐ)级(jí)瑕(xiá)疵(cī)。“语(yǔ)言(yán)大(dà)模(mó)型(xíng)是(shì)二(èr)维(wéi)革(gé)命(mìng),视(shì)觉(jué)大(dà)模(mó)型(xíng)是(shì)2.5维(wéi)突(tū)破(pò),空(kōng)间(jiān)计(jì)算(suàn)将(jiāng)开(kāi)启(qǐ)三(sān)维(wéi)智(zhì)能(néng)时(shí)代(dài)。”他(tā)说(shuō)。

在(zài)雷(léi)涛(tāo)和(hé)团(tuán)队(duì)的(de)努(nǔ)力(lì)之(zhī)下(xià),现(xiàn)在(zài)的(de)天(tiān)云(yún)数(shù)据(jù),能(néng)同(tóng)时(shí)提(tí)供(gōng)国(guó)产(chǎn)HTAP数(shù)据(jù)库(kù)Hubble与(yǔ)AI平(píng)台(tái)型(xíng)基(jī)础(chǔ)设(shè)施(shī),并(bìng)被(bèi)评(píng)为(wèi)国(guó)家(jiā)级(jí)高(gāo)新(xīn)技(jì)术(shù)企(qǐ)业(yè),首(shǒu)批(pī)中(zhōng)关村(cūn)前(qián)沿(yán)科(kē)技(jì)企(qǐ)业(yè),以(yǐ)及(jí)Forrester人(rén)工(gōng)智(zhì)能(néng)认(rèn)知(zhī)层(céng)第(dì)一(yī)象(xiàng)限(xiàn)公(gōng)司(sī)。

算(suàn)力(lì)基(jī)础(chǔ)设(shè)施(shī)应(yīng)服(fú)务(wu)于(yú)千(qiān)行(xíng)百(bǎi)业(yè)

人(rén)工(gōng)智(zhì)能(néng)有(yǒu)三(sān)大(dà)核(hé)心(xīn)要(yào)素(sù),即(jí)所(suǒ)谓(wèi)算(suàn)力(lì)、算(suàn)法(fǎ)、数(shù)据(jù),其(qí)中(zhōng)算(suàn)力(lì)可(kě)以(yǐ)说(shuō)是(shì)其(qí)中(zhōng)的(de)基(jī)础(chǔ)。什(shén)么(me)是(shì)算(suàn)力(lì)?通(tōng)俗(sú)地(de)说(shuō),就(jiù)是(shì)计(jì)算(suàn)能(néng)力(lì),代(dài)表(biǎo)数(shù)据(jù)中(zhōng)心(xīn)的(de)服(fú)务器对数据进行处理后实现结果输出的一种能力。

人们常说,人工智能的尽头是算力,而(ér)算(suàn)力(lì)的(de)尽(jǐn)头(tóu)是(shì)电(diàn)力(lì)。数(shù)据(jù)显(xiǎn)示(shì),2023年(nián)我(wǒ)国(guó)算(suàn)力(lì)中(zhōng)心(xīn)能(néng)耗(hào)总(zǒng)量(liàng)为1500亿千瓦时,同比增长15.4%,约占全社会用电量的1.6%。可见算力增长也会大幅增加对电力的消耗。雷涛表示,现在已有越来越多的国内外AI巨头积极与能源电力企业合作,有的甚至直接生产电力,以满足算力快速增长对于电力的庞大需求。

在我国,很多地方正大力建设算力基础设施,投资不菲(fēi)。雷(léi)涛(tāo)认(rèn)为(wèi),大(dà)家(jiā)顺(shùn)应(yīng)AI时(shí)代(dài)潮(cháo)流(liú)进(jìn)行(xíng)这(zhè)些(xiē)建(jiàn)设(shè)本(běn)来(lái)是(shì)件(jiàn)好(hǎo)事(shì),但(dàn)也(yě)要(yào)考(kǎo)虑(lǜ)实(shí)际(jì)情(qíng)况(kuàng),因(yīn)地(de)制(zhì)宜(yi),不(bù)要(yào)搞(gǎo)重(zhòng)复(fù)建(jiàn)设(shè),更(gèng)不(bù)能(néng)有(yǒu)投(tóu)机(jī)的(de)想(xiǎng)法(fǎ)。“规(guī)划(huà)建(jiàn)设(shè)过(guò)程(chéng)中(zhōng)要(yào)看(kàn)清(qīng)AI的(de)发(fā)展(zhǎn)趋(qū)势(shì),紧(jǐn)跟(gēn)技(jì)术(shù)前沿,不要再做一些已经明显落伍的东西,所谓一步落后,步步落后!”他说。

雷涛还表示,建好的算力基础设施要如何发挥作用很关键,不能仅仅满足AI企业需要,更要关注MaSS市场(大众市场),要让算力像互联网或者水、空气一样,成为一种基础的东西,服务于千行百业。

“现在我们很多的算力中心应用场景、客户群体等都较为单一,远不能发挥其全部作用。”雷涛说,“现在已是AI+的时代,AI本身正在与千行百业相结合,已渐渐成为一种基础性工具,国家建设的算力基础设施,也应该把重点放在服务各行各业上。”

未来AI将自己生产训练所需的数据

春节期间,国产大模型DeepSeek-R1横空出世,证明了用更低的成本、更少的算力需求,就可以实现世界(jiè)一(yī)流(liú)的(de)模(mó)型(xíng)性(xìng)能(néng)水(shuǐ)平(píng)。据(jù)测(cè)算(suàn),DeepSeek-R1模(mó)型(xíng)仅(jǐn)花(huā)费(fèi)约(yuē)600万(wàn)美(měi)元(yuán)就(jiù)完(wán)成(chéng)了(le)训(xun)练(liàn),约(yuē)为(wèi)美(měi)国(guó)和(hé)欧(ōu)盟(méng)同(tóng)类(lèi)大(dà)语言模型成本的1/50.在某些方面,该模型比OpenAI的o1模型要好得多。更重要的是,R1的运营成本仅为OpenAI通常对计算密集型输出收取的费用的3%。

雷涛认为,DeepSeek实现了(le)大(dà)模(mó)型(xíng)的(de)祛(qū)魅(mèi),开(kāi)启(qǐ)了中美后训练时代的大门,曾经被广泛依赖的技术大模型预训练模式,如今已不再是唯一的 “金科玉律”。相比算力过剩的问题,我们更应该关注的是算力和效率都满足的情况下有没有可以用来训练的优质数据。

实(shí)际(jì)上(shàng),数(shù)据(jù)是(shì)大(dà)模(mó)型(xíng)的(de)核(hé)心(xīn)竞(jìng)争(zhēng)力,高质量(liàng)的(de)数(shù)据(jù)资(zī)源(yuán)会(huì)成(chéng)为(wèi)核(hé)心(xīn)生(shēng)产(chǎn)力(lì),AI模(mó)型(xíng)生(shēng)产(chǎn)的(de)内(nèi)容(róng)高(gāo)度(dù)依(yī)赖(lài)源(yuán)头(tóu)数(shù)据(jù)。有(yǒu)研(yán)究(jiū)机(jī)构(gòu)估(gū)计(jì),机(jī)器(qì)学(xué)习(xí)可(kě)能(néng)会(huì)在(zài)2026年(nián)前(qián)耗(hào)尽(jǐn)所(suǒ)有(yǒu)“高(gāo)质(zhì)量(liàng)语(yǔ)言(yán)数(shù)据(jù)”。

雷(léi)涛(tāo)表(biǎo)示(shì),今(jīn)天(tiān)的数据并不能满足明天的AI使用,明天的AI要自己生产数据资源。数据质量的高低并非由主观认知简单判定,而是取决于所采用的AI算法。如今已有大量数据由AI生成,但这并不意味着这些数据就是 “假数据”。

“所谓高质量与低质量数据,其评价标准与方式,归根结底在于AI算法。” 雷涛进一步阐释,“这就是当下热议的数据飞轮概念。AI模型使用的数据由其自身生成,数据飞轮正(zhèng)是(shì)构(gòu)建(jiàn)模(mó)型(xíng)持(chí)续(xù)迭(dié)代(dài)生长的关键方法。”

很多人说AI自我生成的合成数据是虚(xū)拟(nǐ)的(de)、空(kōng)数(shù)据(jù)或(huò)者(zhě)说(shuō)是(shì)造(zào)出(chū)来(lái)的(de)数(shù)据(jù)。不(bù)过(guò)雷(léi)涛(tāo)认(rèn)为(wèi),合(hé)成(chéng)数(shù)据(jù)是(shì)已(yǐ)知(zhī)的(de)数(shù)据(jù)通(tōng)过(guò)确(què)定(dìng)的(de)逻(luó)辑(ji)生(shēng)产(chǎn)出(chū)来(lái)的(de)数(shù)据(jù),这(zhè)些(xiē)结(jié)果(guǒ)数(shù)据(jù)服(fú)务(wu)于(yú)真(zhēn)实(shí)的(de)生(shēng)产(chǎn)过(guò)程(chéng)。

他(tā)还(hái)举(jǔ)了(le)个(gè)例(lì)子(zi),“百(bǎi)模(mó)大战”过后,为什么英伟达发布的大模型还可以挤到第一阵营?英伟达模型训练使用了98%的合成数据。无独有偶,特斯拉也是用合成数据获得具身机器人的智能。

合成数据可降低对真实数据的依赖

雷涛认为,硬件的增长遵循摩尔定律,而数据的增长则呈现指数型态势。我们如今所处的时代,已然(rán)是(shì)机(jī)器(qì)生产数据的时代,合成数据则是未来算力的主要解决方案。

合成数据究竟又是如何生成的呢?雷涛打了个比方,往一瓶水中滴一滴墨水,墨水会从相对简单的状态逐渐扩散,变得复杂、分散。通过逆扩散算法识别墨水扩散规律,就能模拟出不同的墨水扩散场景。合成数据也是利用类似原理,抓住核心规律,从简单数据出发,模拟数据的复杂变化过程,创造出丰富多样的数据。

“人类的抽象逻辑留给我们的数据资产有限,都是信息化进程中沉淀下来的结构化概要信息。而要把这些概要信息转(zhuǎn)变(biàn)为(wèi)能(néng)用(yòng)于(yú)理(lǐ)解(jiě)和(hé)处(chù)理(lǐ)复(fù)杂(zá)世(shì)界(jiè)中(zhōng)复(fù)杂(zá)系(xì)统(tǒng)的(de)内(nèi)容(róng),就(jiù)需(xū)要(yào)大(dà)量(liàng)合(hé)成(chéng)数(shù)据(jù)。”他(tā)说(shuō)。

另(lìng)外(wài),在(zài)某(mǒu)些(xiē)特(tè)定(dìng)领(lǐng)域或(huò)场(chǎng)景(jǐng)下(xià),获(huò)取(qǔ)真(zhēn)实(shí)数(shù)据(jù)存(cún)在(zài)困(kùn)难(nán)。以(yǐ)自(zì)动(dòng)驾(jià)驶(shǐ)领(lǐng)域为(wèi)例(lì),其(qí)需(xū)要(yào)百(bǎi)万(wàn)级别的路况数据,涵盖模拟极端灾难天气、极端恶性交通事故(如波音747在高速公路上迎面迫降)、复杂路况(如路面破损、立交桥断桥)等情况的数据。这些数据难以从现实世界获取,而合成数据可按需生成,填补数据缺口,降低对有限真实数据的依赖。

后训练推动AI从“发动机时代”走向“造车时代”

雷涛表示,当前,大模型的预训练时代已经结束,后训练时代正式开启。在后训练时代,大模型构建起从数据生成到模型强化的正向循环机制至关重要。就像移动互联网时代搜推系统的“数据飞轮”效应——通过应用数据优化算法,算法又反哺应用,人工智能大模型也应形成“数据飞轮”,借助AI生产训练数据实现自我训练。

他还认为,后训练的核心在于从通用模型到领域知识、再到个体经验的深化。谷歌提出的L0-L6层级标准为后训练提供了框架,从基础模型的泛泛问答到高级的强化学习和智能体应用,后训练将推动AI从“发动机时代”走向“造车时代”。

“国内AI市场(chǎng)已(yǐ)经(jīng)全面(miàn)进(jìn)入(rù)后(hòu)训(xun)练(liàn)时(shí)代,企业需要从通用模型出发,结合传统机器学习和机理方法,最终实现个体化的应用。”他说。

来源:北京科技报