找回密码
 立即注册
搜索
查看: 11762|回复: 50

[科技] 日本AI,失去的不止三十年

[复制链接]
     
发表于 2024-5-10 16:19 | 显示全部楼层 |阅读模式
https://mp.weixin.qq.com/s/5cwxRawBOKmtoHjYf6a8Gw


2019年,有两件事一直困扰着孙正义:软银的投资失败,以及日本科技的落后。
面对媒体,孙正义痛心地说道,科技产业几乎从日本消失了,我们正在成为一个被遗忘的国家。即将到来的AI革命,是日本重回牌桌最后的机会[1]。
随着ChatGPT问世,孙正义的呼吁终于成为了共识。然而,正当日本举国动员,准备一脚油门闯入赛道时,却发现了一个尴尬的事实:
日本目前的AI研究,非常依赖隔壁邻居为首的老外。
对此,RIKEN革新智慧综合研究中心负责人杉山将,曾做过一笔统计。
RIKEN(理化学研究所)是日本唯一的国家级科研机构,顶级头脑聚集地。汤川秀树等日本诺奖得主,都曾在这儿搞过研究。然而,那些被AI顶会收录的RIKEN论文,近一半的作者都隶属于外国大学,其中约一半的人来自中国[2]。

本土无人可用,使得日本在生成式AI浪潮里,始终处于失语状态。
然而,如若回溯历史,会发现日本也曾是个“AI超级大国”。
上世纪八九十年代,日本一度是深度学习的中心。杨立昆、余凯、林元庆、贾扬清等载入科技史册的泰斗级人物,都曾在日本的AI实验室度过一段青葱岁月。
曾经攥着一手王炸的日本,为何会迈向老无所依的结局?

站在日本人的肩膀上

上世纪80年代,正在读大学的杨立昆,被一群“疯子”吸引了。
彼时,深度学习是个“已被证伪”的技术路线。然而,仍有一小撮人在死磕,这其中就包括了一批日本科学家。杨立昆发现,当时大部分的深度学习论文,都是日本研究人员用英文写的。
这其中,对他影响最大的,是一位名叫福岛邦彦的日本人。

福岛邦彦
1980年,福岛邦彦参照猫的视觉结构,设计了一个叫做“神经认知机(Neocognitron)”的多层网络模型。
在生物的初级视觉皮层中,存在多个神经元,每个神经元只“掌管”一小部分视野。随后,神经元收集到的信息会统一传输到视觉皮层,组合成完整的视觉图像。
受此启发,福岛邦彦给神经认知机设计了“感知光照“和“运动信息”两个神经元,分别用来“提取图形信息”和“组成图形信息”。然而,福岛邦彦的神经认知机,存在一个致命问题:太超前了。
当时,主流的神经网络只有1层,但神经认知机有足足5层。
面对多层设计带来的种种问题,福岛邦彦一时找不到解决办法,导致神经认知机只能处理一些极其简单的工作。

直到1986年,辛顿提出了“反向传播算法”,这个问题才有了标准答案。
但若向前追溯反向传播算法,会发现其源头仍是日本人。上世纪60年代,日本数学家甘利俊一提出的“随机梯度下降方法”,为其提供了技术灵感[6]。只不过囿于特定时代的局限,甘利俊一没有条件在计算机上进行模拟验证。
1988年,杨立昆将神经认知机与反向传播结合在一起,打造出了大名鼎鼎的卷积神经网络。直到今天,卷积神经网络仍是图像识别领域最重要的算法之一。
由此可见,这些定义一个时代的AI研究成果,都是站在日本科学家肩膀上实现的。

实验室里的中国人

同一时期,日本的产业界,拉开了更为激进的历史篇章。
彼时,日本步入极度繁荣的泡沫经济时代。大型企业纷纷为爱发电,自掏腰包搭建中央实验室,发力基础科学。这其中,要数NEC(日本电器股份有限公司)最为激进:它直接切入美国科技产业腹地,将实验室开到了普林斯顿和硅谷。
财大气粗的NEC Lab,很快聚集了一大批日后响当当的名字。
西安交大软件学院院长、国家特聘教授龚怡宏,是第一个加入硅谷NEC Lab的国人科学家。在他担任实验室主任时期,延揽了一众青年才俊。
其中既有触发科技巨头竞拍辛顿的余凯,也有林元庆、徐伟等活跃在中国AI产业一线的技术大牛。
余凯
彼时,中国的计算机产业刚刚起步,吸纳不了那么多人才。硅谷NEC Lab无缝承接了这个需求,并招揽了大批立志从事AI研究的国人科学家。
余凯接棒硅谷NEC Lab主任一职后,又招募来了黄畅。当时,黄畅底下有一个名叫贾扬清的实习生。在NEC Lab期间,贾扬清展露出了高超的数学和工程代码能力,曾让实验室众人坚信其日后必有所造诣。
这种薪火相传的孵化线,在林元庆接手硅谷NEC Lab后仍在继续。
他引进的实习生谢赛宁,后来与麻省理工教授何恺明共同提出了著名的ResNeXt模型。2022年,谢赛宁还和OpenAI研究员Bill Peebles合著了论文《Scalable diffusion models with transformers》。
以这篇论文为基础,OpenAI打造出了视频生成模型Sora。
另一间位于普林斯顿的NEC Lab,同样招揽了杨立昆,以及支持向量机发明者Vladimir Vapnik等泰斗级人物。
可以说,历史上没有任何一家机构,能如NEC Lab这般,拥有此等高手如林的班底。

余凯曾在媒体专访中如此形容NEC Lab巅峰时期的影响力:如果你在谷歌上搜索美国NEC Lab,页面会立刻弹出一句话,你要不要来谷歌工作[7]。
然而鼎盛时期风光无两的NEC Lab,却早已埋下了衰败的草蛇灰线。

五月花号迷航

2002年,杨立昆刚在普林斯顿进行了一年的研究工作,NEC就开始施压。
管理层毫不客气地告诉杨立昆,NEC对深度学习没有一丁点兴趣,并顺手解雇了当时的实验室主任。这段经历让杨立昆对产业界彻底失望,跑回纽约大学当起了老师。
杨立昆
NEC突然自毁长城,有两个不容忽视的现实原因:
一是人们对AI失去了信心。彼时,无论是芯片的算力,还是数据的丰富程度,都远不足以让深度学习发挥其潜力。与此同时,“第五代计算机”项目的失败,更是雪上加霜。
“第五代计算机”项目始于上世纪80年代,目标是打造AI驱动的超级计算机。
在日本的设想中,第五代计算机将具备回答问题、知识库管理、图像识别、代码生成等功能[8]。这个“领先时代40年”的科研项目,一度将美国吓得不轻,立马掏出补贴与日本竞争。

如此一拍脑袋的项目,结局可想而知。
1992年,五代机项目正式宣告破产。日本不仅白白浪费了数亿美金,还把其他跟风的国家给忽悠瘸了。一怒之下,人们将责任归咎于AI。日后很长时间里,AI研究如同过街老鼠,人人喊打。
其次,日本的中央实验室模式,此时也出了问题。
日本企业对于NEC Lab等中央实验室的定位,是纯粹的基础科研机构。这种模式没有与市场和产业接轨,只是盲目追求多拿几个诺贝尔奖。这让科学家们非常苦闷,内部时常调侃称“反正做的东西也用不到产品上”。
因此,当经济泡沫消失,日本进入失去的时代,毫无实际用处的中央实验室,理所当然地成了第一批“挨刀”的对象。
2009年-2020年间,NEC多次进行万人规模裁员,并大幅缩减研发经费。
在此阶段,中美科学家们纷纷选择自主创业,或另择良木而栖。
2012年,余凯受李彦宏邀请,领导百度的AI业务。在他的号召下,徐伟、黄畅等NEC Lab的同僚,也先后加入百度。后来,他们又跟着余凯一同创办了地平线。
日本花大力气点燃的AI火种,最终造就了今天中国AI的冲天火光。2018年NEC第四次大裁员后,其美国实验室的技术中坚力量,几乎已流失殆尽。

孤胆英雄

日本AI高歌猛进的步调,随着NEC美国实验室的落寞戛然而止。
全球人工智能的历史仍在继续,就好像五代机项目从未存在过一样;而曾经组建了全明星阵容的NEC Lab,也渐渐被淡忘。在失去的三十年里,日本几乎没有在深度学习领域,留下任何一笔痕迹。
不仅如此,深度学习还在日本留下了根深蒂固的偏见。
2016年谷歌的AlphaGo击败了李世石,登上了全球科技新闻的头版。这一年,中国诞生了528家AI企业,催生371起AI投融资。从科学家到VC,都热情地谈论着深度学习的潜力。然而,隔壁的日本,却是另一番风景。
同年,日本产经省也举办了一场全国人工智能大会。有学者准备就深度学习提出两个企划案,却被同席的学术圈研究者提醒,“如果名字里加上深度学习的话,估计就没有人来听了吧”。
这种裹足不前的态度,是日本如今无人可用的重要诱因。

唯一意识到问题的,正是软银集团的孙正义。
2017年,孙正义在推出全球最大私募股权科技投资基金(愿景基金)时,笃定地表示,该基金只会根据一项策略进行投资,就是AI。
接下来的几年时间里,软银在AI领域的投资不可谓不激进。
光是在季度和年度报告中,孙正义提到“AI”的频数就超过500次,并大手笔地为超过400家AI创业公司,注入1400多亿美元资金。他甚至还在2020年胸有成竹地表示,史无前例的投资狂潮,将使软银成为主导AI革命的投资公司。
然而,孤掌难鸣。更尴尬的是,软银还压错了宝。
据风投数据库PItchBook于2023年公开的数据,在26家估值超过10亿美元的AI创业公司里,软银只投中了一家。
此外,孙正义虽然斥40亿美元投资英伟达,却在其股价暴涨前悉数抛掉,与近10倍的涨幅收益失之交臂。如果不是押中了ARM,孙正义的AI投资或将颗粒无收。
孙正义
在ChatGPT引爆生成式AI热潮的2023年,孙正义在股东大会上痛心疾首地表示,自2022年末以来他就一直在反省,“为自己犯了很多错误感到羞愧”,“哭了好几天都停不下来”[13]。

失去的时代

孙正义的眼泪,既是对软银频频押注失误的悔恨,更是对日本AI产业的恨铁不成钢。
2019年时,孙正义曾不加掩饰地公开批判:在当前最重要的科技革命上,日本已变成了一个“后进国”,而使其不断丧失竞争力的本质原因,是对进步的不贪婪[15]。
这番言论,掺杂了不少情绪因素。实际上,这些都不是日本AI老无所依的根本原因。
深度学习从来都不是一场孤立的革命。
2012年,深度学习能够爆发,其实有两个先决条件:一是算力进化,当时英伟达所开发的GPU,已经初步能支撑起深度学习所需的算力。二是互联网的全面铺开,弥补了数据不足的问题。
集成电路、互联网、云计算,随着这些前置产业陆续成熟,深度学习才得以登上历史舞台。然而,这些产业,日本几乎一个都没有。
当年,在斯坦福教书的吴恩达想要进行大型图像识别实验,尚且有谷歌倾尽整个数据中心的算力,来成就他的The Cat Neurons项目(即“谷歌猫”)。
然而福岛邦彦和甘利俊一却没有这么幸运。即便是如今的日本,也没有任何一家民间公司,拥有训练AI大模型所需的庞大算力。仅有政府主导的理化学研究所中,才能找到“富岳”这样的超级计算机。
日本AI的后继无人,从最开始就埋下了伏笔。

如今,以AI为横切面的日本科技产业,似乎正在印证孙正义五年前的预言:日本已经失去了过去,但可能正在失去未来。


参考资料:[1] 孫正義氏、日本を憂う「このままでは忘れられた国に」,日経ビジネス[2] 日本国产AI开发依赖外国人,日经中文网[3] Why Japan is lagging behind in generative AI, CNBC[4] 科学之路,杨立昆[5] 智能时代的算法发展,张江科技评论[6] 甘利俊一 | 信息几何法:理解深度神经网络学习机制的重要工具,AI科技评论[7] 对话地平线创始人、CEO余凯:德国诗意一般的六年深深地滋养了我,车云[8] 第五代:人工智能与日本计算机对世界的挑战,爱德华费吉鲍姆,帕梅拉麦考黛克[9] 野心勃勃的日本第五代计算机,是如何一步步走向失败的,CSDN[10] 中国人工智能简史,林军,岑峰[11] 日本人工智能的现状与“深层学习”的课题, Nippon[12] 日本人工智能的发展及现状,鼎联知识产权[13] 孙正义投AI,投了个寂寞,华尔街见闻[14] 孙正义:一场巨大革命即将到来,软银终将统治世界,华尔街见闻[15] 孙正义批日本竞争力反思人工智能落后,亚洲周刊[16] 硅谷NEC Lab往事:将中国企业拽进AI时代的人,雷锋网[17] 日本电子产业兴衰录,西村吉雄
回复

使用道具 举报

     
发表于 2024-5-10 16:21 | 显示全部楼层
日本连通信技术的软硬件基础都没还谈什么AI...
回复

使用道具 举报

     
发表于 2024-5-10 16:28 | 显示全部楼层
孙正义祖籍福建莆田,孙家祖先于南北朝时期从中国福建莆田经多次迁徙迁往朝鲜半岛,至孙正义祖父孙钟庆一代 [4],孙家才由朝鲜半岛东南部的大邱迁至日本九州,孙正义的祖先是移居朝鲜半岛的华人,孙正义出生于日本佐贺县鸟栖市,是定居日本的第三代韩裔日本人,孙正义在日本定居已有三代。

日本AI需要像日本金融一样等待第三代润人的繁殖 !
回复

使用道具 举报

     
发表于 2024-5-10 16:51 来自手机 | 显示全部楼层
总结:既不掌握算力又不掌握数据,只能当前浪了
回复

使用道具 举报

     
发表于 2024-5-10 16:58 | 显示全部楼层
中间的部分我是不是以前看过
回复

使用道具 举报

发表于 2024-5-10 17:01 | 显示全部楼层
这些定义一个时代的AI研究成果,都是站在日本科学家肩膀上实现的。
外务省看来炒外汇赚了不少啊,经费充足
回复

使用道具 举报

发表于 2024-5-10 17:02 | 显示全部楼层
除了中美也没人需要这产业啊,差不多得了
回复

使用道具 举报

发表于 2024-5-10 17:05 | 显示全部楼层
你日早年的东西还是挺有意思的,小时候见过一台电饭煲号称使用了模糊逻辑咋呼咋呼的

中间那段和那个蓝色led发明人经历有十分甚至九分相似
回复

使用道具 举报

     
发表于 2024-5-10 17:06 | 显示全部楼层
日本又没有信息革命,又没有数据积累。当年参与算法形成结果留下的记录全是试错的。
现在日本跟90年代不存在一样,刚刚开始看世界。
回复

使用道具 举报

     
发表于 2024-5-10 17:06 | 显示全部楼层
震撼了 大概到90年代中后期就能看出第五代计算机是野狐禅了吧
居然到2002年才下马
(错乱了,看了一下地球模拟器也是2002年造出来的,大概也是没产出有意义的东西
回复

使用道具 举报

     
发表于 2024-5-10 17:06 | 显示全部楼层
AI学术胡编的毛病目前还没有改,智慧生活、AI设计、智能制造这些需要大量应用场景,除了东西大目前没有支棱起来的,AI乃头乐这个赛道,霓虹还有一些机会
回复

使用道具 举报

     
发表于 2024-5-10 17:19 | 显示全部楼层
日本还是先捣鼓一下信息化吧
回复

使用道具 举报

     
发表于 2024-5-10 17:19 | 显示全部楼层
本帖最后由 祥瑞御免小白兔 于 2024-5-10 17:20 编辑

其实是日本还没找着东京湾里盛着那包装着先进AI技术的5吋软盘的水泥封装箱。为什么没找着呢?本来是严谨地标了号的,结果地震了。把箱子震跑了。
回复

使用道具 举报

     
发表于 2024-5-10 18:00 来自手机 | 显示全部楼层
草,我看了个开头就知道是哪家公众号写的,紧接着就猜到发帖人了。
回复

使用道具 举报

     
发表于 2024-5-10 18:04 来自手机 | 显示全部楼层
第五代计算机是不是被美国忽悠模拟这条路子上才完蛋
回复

使用道具 举报

     
发表于 2024-5-10 18:15 | 显示全部楼层
日本搞了一点早期的工作怎么就算是AI超级大国了,量变是会产生质变的,老一套感知机和现在的大模型看似同宗,其实都差不多是两个概念了,和SVM一起坐小孩那桌
反正IT这块搞不好是常态,欧洲都被中美吊起来殴打,日本代码仙人搞不起来没必要自责
回复

使用道具 举报

发表于 2024-5-10 18:17 | 显示全部楼层
日本以前是有一些偏门的开发者,现在难见到了,pc98下不少特殊软件挺有用
而且产业化下很难见到日本的日常软件,该不会都跑去搞游戏了吧
回复

使用道具 举报

     
发表于 2024-5-10 18:23 | 显示全部楼层
处男鉴黄师 发表于 2024-5-10 16:51
总结:既不掌握算力又不掌握数据,只能当前浪了

算力?首先电力够用么?
回复

使用道具 举报

     
发表于 2024-5-10 18:35 | 显示全部楼层
本帖最后由 treexper 于 2024-5-10 18:38 编辑

现在AI很多发展都在工业界,毕竟计算机界冷冻电镜H100实在太昂贵。但日本企业那个僵化的体制真的能催生出创新么。
而且日本对美国完**露的市场,做什么都是被美国一顿碾压拿下。
信息化时代,日本就没有诞生什么世界级应用。
回复

使用道具 举报

     
发表于 2024-5-10 19:06 | 显示全部楼层
treexper 发表于 2024-5-10 18:35
现在AI很多发展都在工业界,毕竟计算机界冷冻电镜H100实在太昂贵。但日本企业那个僵化的体制真的能催生出创 ...

ruby算是日本人对it业界最大的贡献吗?
回复

使用道具 举报

     
发表于 2024-5-10 19:09 来自手机 | 显示全部楼层
日本的好学生都去学法律医学政治了www
回复

使用道具 举报

     
发表于 2024-5-10 19:13 | 显示全部楼层
芜湖挨宰 发表于 2024-05-10 18:00:22
草,我看了个开头就知道是哪家公众号写的,紧接着就猜到发帖人了。
远川现在写文比较公式化,比6657解说比赛还公式,确实比较好认。

  -- 来自 能手机投票的 Stage1官方 Android客户端
回复

使用道具 举报

     
发表于 2024-5-10 19:15 来自手机 | 显示全部楼层
mandown 发表于 2024-5-10 19:06
ruby算是日本人对it业界最大的贡献吗?

ruby现在哪有人用啊,或者说从很多年前吹的时候就没见到几个人用过
回复

使用道具 举报

     
发表于 2024-5-10 19:48 来自手机 | 显示全部楼层
日本在广场协议前就太狂了,在美国如日中天的时候宣传什么日本人也可以说不,变成今天这样真的不奇怪。

—— 来自 HUAWEI OXF-AN10, Android 12上的 S1Next-鹅版 v2.5.4
回复

使用道具 举报

     
发表于 2024-5-10 19:52 来自手机 | 显示全部楼层
我记得PS2发售后有软文吹过它有相当于4岁小孩的AI智能,一晃24年过去了。
回复

使用道具 举报

     
发表于 2024-5-10 19:53 来自手机 | 显示全部楼层
还 AI 呢,这十年整个 IT 都失去了

—— 来自 HONOR REA-AN00, Android 14上的 S1Next-鹅版 v3.0.0-alpha
回复

使用道具 举报

     
发表于 2024-5-10 19:55 来自手机 | 显示全部楼层
zyhang 发表于 2024-5-10 19:15
ruby现在哪有人用啊,或者说从很多年前吹的时候就没见到几个人用过

Ruby on Rails 国内基本上都被 PHP 抢尽风头,也就老东西用用

—— 来自 HONOR REA-AN00, Android 14上的 S1Next-鹅版 v3.0.0-alpha
回复

使用道具 举报

     
发表于 2024-5-10 22:29 | 显示全部楼层
混乱之雨 发表于 2024-5-10 17:06
AI学术胡编的毛病目前还没有改,智慧生活、AI设计、智能制造这些需要大量应用场景,除了东西大目前没有支棱 ...

深度学习是这样的,会学到不该学的东西,加强监督也只能是降低概率
回复

使用道具 举报

     
发表于 2024-5-10 23:27 来自手机 | 显示全部楼层
结果都一样,爱莉哪一部分丰满起来只会被美国爹地狠狠榨干。
回复

使用道具 举报

发表于 2024-5-10 23:46 | 显示全部楼层
这文章就是套话,当年全球的人工智能都一个样,没有算力的支撑根本玩不出什么花活,又不是单单日本那样。无非是日本当年财大气粗做了最大的冤大头而已,当年中国连自己的人才都留不住,更不要说当冤大头了。
回复

使用道具 举报

     
发表于 2024-5-10 23:51 来自手机 | 显示全部楼层
mandown 发表于 2024-5-10 19:06
ruby算是日本人对it业界最大的贡献吗?

ruby火起来也是靠DHH做了RoR
Ruby本身有极高的灵活性不假, 但是RoR利用Ruby的DSL灵活性也几乎创造了一套新方言
回复

使用道具 举报

     
发表于 2024-5-11 00:00 | 显示全部楼层
日本在谈AI之前还有很多更老的没谈吧
回复

使用道具 举报

     
发表于 2024-5-11 00:01 | 显示全部楼层
在日本的设想中,第五代计算机将具备回答问题、知识库管理、图像识别、代码生成等功能[8]



堪比罗太君2018的TNT,估计都是在理论不成熟的情况下,拍脑袋强行上的
回复

使用道具 举报

     
发表于 2024-5-11 00:25 | 显示全部楼层
上世纪的影视作品里日本制造还是高科技的代名词,现在已经成老头乐了
回复

使用道具 举报

     
发表于 2024-5-11 00:34 | 显示全部楼层
日本还是先把软盘传真机办公淘汰了吧……
回复

使用道具 举报

     
发表于 2024-5-11 01:06 | 显示全部楼层
leviathan 发表于 2024-5-10 23:46
这文章就是套话,当年全球的人工智能都一个样,没有算力的支撑根本玩不出什么花活,又不是单单日本那样。无 ...

戴老板这个号应该是立场转变了 , 以前还有点儿内容, 现在完全是结论先行.
谈论AI, 我猜文章作者顶多知道lisp, smalltalk肯定不知道.
回复

使用道具 举报

     
发表于 2024-5-11 02:37 | 显示全部楼层
根本轮不到AI,早在NEC PC时代就已经注定加拉帕戈斯化了
回复

使用道具 举报

     
发表于 2024-5-11 03:50 | 显示全部楼层
ruby还是有不少人当胶水语言,写写脚本之类的
ror是真过气了


论坛助手,iPhone
回复

使用道具 举报

     
发表于 2024-5-11 04:07 | 显示全部楼层
近期和日本人合作项目
老是在一些无关痛痒的地方,耗费大量的精力

他们甚至要去质疑一个他们日本厂家的元器件的公式,还要去问人家来源,那家日本原厂后来直接不搭理了.
然后买东西,也是这个要求那个要求,人家直接不卖给他们.
风险分析过度.
需要一个电池充电器,我去日亚找一个,看看能不能让他们自己买
好不容易找到一个,然后瞄了一眼评论

电池充电器的说明书,写着,此产品不能用于给电池充电
我艹,这是免责免得魔怔了吧
回复

使用道具 举报

     
发表于 2024-5-11 08:12 来自手机 | 显示全部楼层
yeyou 发表于 2024-5-11 01:06
戴老板这个号应该是立场转变了 , 以前还有点儿内容, 现在完全是结论先行.
谈论AI, 我猜文章作者顶多知道 ...

ai和你说的这两个“名词”有任何关系么?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|上海互联网违法和不良信息举报中心|网上有害信息举报专区|962110 反电信诈骗|举报电话 021-62035905|Stage1st ( 沪ICP备13020230号-1|沪公网安备 31010702007642号 )

GMT+8, 2024-6-9 00:15 , Processed in 0.188852 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表