探展WAIC|专访柏睿数据董事长刘睿民:Data+AI智能算力底座将助力解决“千模时代”算力需求
7月7日,柏睿数据董事长兼首席科学家刘睿民在世界人工智能大会中的区块链+WEB3新发展论坛发表题为“分布式数据库智能算力底座赋能金融WEB3.0”的演讲,分享智能算力底座如何促进金融赋能实体经济。
柏睿数据为国内目前仅看到的推出全内存分布式计算引擎的智能数据算力公司,目前已处于上市辅导阶段。刘睿民是国内资深的数据库研发领军专家,自2014年开始成立团队致力于研发国内首个大规模并行MPP内存数据仓库引擎。后成功其中,以MLOPS为方法论的数据智能开发平台,包括LLMOps平台(大模型开发运维平台)、Rapids VectorDB(向量数据库)等产品,覆盖从数据采集、存储、计算分析到模型训练、部署、应用的全生命周期解决方案。近期,柏睿数据全球创新赋能中心在上海浦东新区授牌,也与多家海内外创新主体联合组建国际AI创新联合体。
刘睿民在接受蓝鲸财经专访时举例,算力基座就相当于引擎,数据就像油,AI、web3等训练、推理、使用数据库的框架都需要靠底层算力。柏睿数据自主研发打造的Data+AI智能算力底座,融合大数据、人工智能、数据计算加速加密等技术,能够满足产业智能下大规模的数据实时计算需求,并向云端演进,让算力不再成为Web3.0发展的瓶颈。
(资料图片仅供参考)
蓝鲸财经:作为已经深耕分布式数据库十年的企业,是否会觉得大众对AI、Web3的关注将带领行业迎来全盛年代?
刘睿民:现在所说的千模万模,基本上都是在应用领域,因为我们是做基础领域,所以说最后无论呈现模式是什么,都要用同样的东西,就是算力。
现在市场需求量的急速扩张,很多人的困扰是模型已经搭建好了,但无法进行训练。我们其实是从国产的角度来做数据库,我们主要研发大内存的全内存分布式计算引擎。当前算力的不足是一个关键问题,其中一项卡脖子的因素是英伟达的A100H100卡,由于禁运很多单位无法获得这个昂贵的卡。而我们的全内存分布式计算引擎通过软硬件协同打通,可以达到196GB的内存容量,相比之下,几年前我们能够实现单板达到1TB内存的规模。从行业角度来看,我们是国内目前仅看到的专注于全内存分布式计算引擎的公司,国外也只有五六家。国内的用户往往在买GPU时会有各种限制,这也面临一些问题。像英伟达等公司,首先推出的是一款爆款产品。这种产品可能价格较高,但随后会推出其他评级较低但价格更为实惠的产品版本。这些版本在性能方面可能达到原产品的六七成,但价格仅为原产品的十分之一。
因此,我们提供相对廉价的算力解决方案,直接利用内存进行训练,创新解决算力问题。
蓝鲸财经:柏睿数据推出的大模型开发运维平台LLMOps平台和其他产品如何助力Web3.0场景的落地?
刘睿民:LLMOps平台赋能了应用端的开发阶段,使用者无需从头开始开发,而是可以借助平台提供的基础底层,通过简单的拖拉拽操作来建立大模型。这意味着用户只需要很少的代码就能完成模型的建立。目前,LLMOps平台在海外的客户中使用较多,因为海外客户相对成熟一些。而国内客户由于接触国外平台的机会较少,所以对LLMOps的了解还不够。在人工智能领域,我们主要吸引了海外客户的关注,比如新加坡的客户。国内的用户也对我们的产品感兴趣,但由于国外资源相对不易获取,所以在某种程度上有些滞后。
这方面目前主要客户是国外的人工智能公司,国外人工贵,他们需要将人工智能应用落地到工业领域中,比如机器人优化、港口调度等场景中的优化问题。过去,他们通常通过编写代码来实现这些优化场景,但现在情况不同了。他们可以在LLMOps平台上进行拖拉拽式建模和试算,然后部署到计算机集群上进行计算。他们可以选择连接到不同的平台,如谷歌、AWS或微软的集群。对于这些客户来说,LLMOps的优势在于低门槛的使用和加速功能的提供。
蓝鲸财经:是否意味着未来高自动化、低代码化的公司会越来越多,这将成为必然发展趋势?
刘睿民:这是必然的。随着人工智能的发展,越来越多的任务和工作将被自动化取代,包括编写简单的代码。这并不意味着复杂的编程工作将完全消失,但对于一般的程序员来说,未来可能会面临挑战。因此,自动化和低代码的趋势将成为主流,这是一种正常的发展过程。在未来的三到五年内,简单的编程工作可能会变得相对无关紧要。
蓝鲸财经:如何理解在WEB3.0特定应用场景中,"FPGA计算引擎+配套软件"如何提供比SmartNIC、GPU和AI大模型加速芯片等通用芯片更强大的专业计算能力?
刘睿民:举例来说,GPU的功能原本是用于打游戏的,它的功能并非专为人工智能而设计,有段时间甚至被用来挖矿。这只是因为大家没有一个芯片来运行更复杂的计算。无论后面的应用场景是什么,通用的东西其实是双精度运算,就是浮点运算。
我们现在把浮点运算的算法都放到了FPDA卡上,配上大内存,然后内存板和内存板之间的通讯,通过我们全内存的分布式计算引擎连接在一起,这样的话用户就能够调动比如说1TB甚至几个TB的内存。
在某种程度上,以后有一种专门运用于AI计算的芯片将成为必然。以前科学计算,尤其是超级计算中,开始使用了GPU,并建立了一个完整的生态系统。后来,GPU被应用于人工智能的训练中,导致我们陷入了这样一个循环。
所以,这是一个逐渐发展的过程,不是说有很多选择可以做。事实上,在进行双精度计算时,以前并没有其他选择,也没有其他人在这个领域有大量研究。现在虽然有了这样的选择,但限制还是很多。
蓝鲸财经:柏睿数据对于数据隐私和安全方面有哪些保障措施和技术手段?
刘睿民:我们使用的是国密,技术路线类似于隐私计算,公司只有一个锁芯,钥匙是掌握在用户手里的。“锁芯”的安全性、稳定性越高,“锁”就越安全,数据就越安全。RapidsDB 总体代码自研率高达99.32%,通过中国信通院、金融信创生态实验室、国家密码管理局商用密码产品等多项国家级测试认证,并在运营商、金融、电力、政务、医疗等多个行业成功落地应用,安全性遥遥领先。
关键词:
下一篇:最后一页
精心推荐
- 去年京津冀工信部门推进签约570多项高端高新项目
- 京津冀区域协同创新指数增长迅速
- 1至2月河北省工业生产平稳开局 规模以上工业增加值同比增长6.0%
- 浙江绍兴15日0-21时新增41例确诊病例
- 沈阳大气优良天数达近5年来最好水平
- 辽宁实行市级政府集中监管 首站定点冷库加强疫情防控
- 辽宁省25个博士后团队冲刺全国博士后创新创业大赛
- 安徽省宿州市埇桥区大营镇大营新村调整为中风险地区
- 云南哀牢山4名地质调查人员因公殉职原因查明
- 全国首部涉及“非现场执法”的法规施行 浦东新区打造引领区数字化城市治理样板
- 杭州一封控小区完成第三轮核酸检测 前两轮检测均为阴性
- 集采未中选药品现在怎么样了?这组数据告诉你
- “海归”博士后王暾:专注灾害预警科技创新 打通灾害预警“最后一公里”
- 福建宣判一起涉恶案件 10人犯罪团伙强迫交易、非法采矿获刑
-
中新网郑州12月15日电 (记者 韩章云)针对近日网友实名举报中国农业发展银行太康县支行员工夏某华吃空饷一事,中国农业发展银行河南省
-
中新网宿迁12月15日电 (记者 刘林)“房子干净又敞亮,社区漂亮又整洁。”15日,家住江苏宿迁牛角淹社区的袁有亮谈起新家,兴奋的心情
-
中新网通辽12月15日电 (记者 张林虎)15日,记者从内蒙古自治区通辽市科左后旗公安局获悉,该局打掉一个帮助网络犯罪转账的“跑分团队
-
中新网安徽阜阳12月15日电 ( 成展鹏)12月15日,规划占地面积2500亩、投资总额75亿元的安徽省阜阳市太和县保兴医药健康产业园内一片繁
-
中新网杭州12月15日电 (郭其钰 张益聪)从焦虑不安到互帮互助,浙江省杭州市上城区凯旋街道新城市广场B座里的257人经历了难忘的72小时
X 关闭
行业排行
- 1、深圳:积极推进旅游业恢复 扎实推动经济稳定增长
- 2、保定定州提出一系列发展措施 引领体品产业向智能化品牌化高端化迈进
- 3、河北省财政厅充分发挥财政职能作用 促进交通运输事业发展
- 4、太原阳曲人才公寓项目开启施工招标工作 共有1954套人才公寓满足人才居住需求
- 5、山西出口钢构件顺利发货 为企业加强科技创新开辟了更为广阔的发展空间
- 6、上半年泰州姜堰实现新签约亿元和1000万美元以上项目95个 计划总投资208.319亿元
- 7、清华博士非洲修电站 因为他,“内卷”成为网络热词
- 8、内蒙古新增本土确诊病例3例 均在呼伦贝尔满洲里市
- 9、31省份新增新冠肺炎确诊病例67例 其中本土50例
- 10、浙江新增本土确诊病例45例 其中宁波6例、绍兴39例
X 关闭
产业
-
探展WAIC|专访柏睿数据董事长刘...
探展WAIC|专访柏睿数据董事长刘睿民:Data+AI智能算力底座将助力解决“
-
福彩3D第2023181期牛魔王中奖诗
181期:龙王取灵码,化云落九天开()180期:假金镀真佛,买椟却还珠开(
-
静电鱼 双子座星运详解【周运7...
事业:周一双子座容易遇到预算审批不过或者活动经费有限的情况,部分双
-
被封杀的亚洲第一美人 官宣复出……
最近内娱、台娱的瓜,一个比一个炸裂。没想到日本娱乐圈也不甘示弱。前
-
车辆紧急召回!涉及这些品牌
近日,国家市场监督管理总局发布一批车辆召回通知涉及雷克萨斯、东风日
-
李玟老公被起底!
李玟老公被起底!,香港,乐裕民,娱乐圈,盛智文,碧昂斯,填词人,古典乐,利
-
中金:下半年煤炭需求有望温和复...
考虑到目前板块估值已经处于较低水平,高股息率将为板块提供较高安全边
-
请问洋葱和咸鱼能不能一起炒?
可以的食材:咸鱼,生姜,洋葱,青椒,具体做法:咸鱼洗净沥干,锅里放
-
湖北五峰山体滑坡现场:争分夺秒...
山体垮塌,巨石泥土倾泻而下;生命至上,紧急救援争分夺秒……发生...
-
银河证券原首席经济学家刘锋受聘...
每日经济新闻记者获悉,7月9日,银河证券原首席经济学家刘锋受聘中央财