6 月 04
Luke FanAIGC, 英伟达，黄仁勋的故事 1.8万亿参数, 2.7万亿美金, AI, AIPC, AI工厂, AI工厂时代, AR, Blackware, COMPUTEX, GPT-4, GPT4, GPU, GPU技术大会, GPU核心, GTC, H1, H100, MoE, NVIDIA, NVlink, RTX, scoring low, SERVER, stable diffusion, TOKEN, TX, VR, 云计算, 人工智能, 内存, 军备竞赛, 分析, 参数, 参数量, 台积电, 合作伙伴, 商业, 垄断地位, 大模型, 工程师, 市值, 应用开发, 开发者, 微软, 戴尔, 技术大会, 投资人, 推理, 推理能耗, 支架, 数据中心, 显卡, 机器人, 机箱, 模型, 模型训练, 游戏助手, 版本, 生态链, 用户, 硬件, 科技, 移动互联网, 竞争, 竞争对手, 竞争者, 算力, 算力成本, 算力芯片, 缩放定律, 股价, 能耗, 芯片, 英伟达, 苹果, 行业秘密, 计算机, 计算机大会, 训练能耗, 设计, 谷歌, 贷宽, 超威, 车载芯片, 软件, 铁皮, 黄仁勋
大家好，欢迎收听老范讲故事YouTube频道。今天，咱们来讲一讲黄仁勋在COMPUTEX上的狂欢。COMPUTEX是一年一度在台湾举行的计算机大会。黄仁勋，作为现在真正AI时代的当红炸子机，可能是唯一靠AI赚了大钱的人。虽然微软也在赚钱，但是微软整个靠AI挣的钱并没有那么多。真正靠AI赚了大钱的公司只有他一家——英伟达。刚才我看了一下，英伟达现在市值2.7万亿美金。大家知道，再往前就是微软的3.2万亿，第二名是苹果，2.9万亿，还差那么一点点。可能稍微一哆嗦，英伟达就有可能成为世界第二市值的公司了。那么，黄仁勋上面都讲了什么呢？作为网红，肯定还要先暴露一下行业秘密，别人都不知道他知道的事情。上来先说一下他现在讲的是什么——就是GPT-4到底有多少参数。GPT-3.5大家知道是1,700多亿参数，就是一个170多亿级别的模型。但是到GPT-4的时候，OpenAI就再也没有出来说它到底有多少参数。很多人说你是不是超过万亿了，对OpenAI来说，这个数据不是很准确。我来辟谣了，但是具体有多少，从来没有讲过。黄仁勋在前面的GTC，就是GPU技术大会上，每年一次的英伟达自己的开发者大会上，上面也讲了……
说起来1.8T，这个1.8T指的是什么呢？其实就是1.8万亿参数，而且它是一个Moe模型。当时OpenAI并没有对此多说什么，但这一次，在《Computer Text》上，他们又反复强调了这个事情，明确指出GPT-4的训练参数达到了1.8T。这让人们意识到，想要达到GPT-4的水平，还有很长的路要走。尽管现在大家都在努力研发号称能达到或接近GPT-4水平的模型，比如几百亿参数的模型，比如梅塔的拉马3可能会有一个400亿参数的模型，国内也出现了很多一两百亿参数的模型。但事实是，即使提到的1.8T参数，如果考虑到是Moe模型，分成八份来看，那么单个模型可能也就相当于200多亿参数的水平。
More
7 月 22
Luke Fan杂谈, 梦想园, 活动笔记 3D打印, 创新, 活动, 硬件
现在，3D打印非常的火爆。硬件创业和创新也是继互联网创业中SNS、众包、O2O之后，又一个热点。这次的硬件创新和创业，和传统基于硬件和设备的创新最大的区别就在于，大家思考的是如何使用软件的方式，如何使用互联网的方式来做硬件创新。
这次的硬件创新浪潮中比较受到关注的一只，就是开源硬件。开源软件已经被现在的软件，特别是互联网行业所广泛接受了，开源软件可以让更多的人以更低廉的价格使用软件。开源软件更根源的好处在于，现在很多软件的使用者，并不仅仅是单纯的使用者，这些人还是软件的维护者。他们可以将使用过程中所遇到的问题，直接在源代码级别进行修改和调整，然后将这些修改和调整提交回开源软件的版本分支之中去，这将极大的提高开源软件的演化速度，降低开源软件本身演进所需的庞大人力成本。同时，很多由一线使用者提交的代码，使得开源软件往往能够比商业软件更能够快速的适应技术的发展方向。开源软件是一种对于整个社会的技术进步都有巨大推进力的事情。而所谓的开源硬件，就是硬件创新过程中，硬件研发团队从开源软件中借鉴来的。最简单的开源硬件搞法，就是将设备制作的每一个步骤，用相机拍摄下来，然后发布到网上。
我们公司邀请了上海新车间的李大伟到公司介绍了开源硬件，很多人非常感兴趣，于是就组织了这次在北京创客空间的3D打印坊活动。
活动原计划是由20人，用5~6小时的时间，分别组装3台3D打印机，。不过，事实证明，我们的动手能力，和3D打印机的组装难度，都与一开始的预期有一定的差距。所以，最终我们只拼出了两台整机，其中一台经过调试之后可以正常工作，另外一台有一些问题，但这个活动从早晨10点持续到晚上8点之后，已经无法再继续进行下去了，大家只能放弃了。
活动的开始，先由北京创客空间目前3D打印坊的负责人宋典为大家介绍了一下3D打印机的发展现状和行业背景。
然后就是大家动手拼装了。
现在的民用3D打印机很多都是自生产的，也就是由其他3D打印机打印出塑料组件，然后用激光切割机切割出板材，再配上一些通用组件和开源的控制软件，组成新的3D打印机。
下面就是一盒子用激光切割机加工出来的零件。
开源硬件，就是要使用这种通用组件。那些专门设计，或者难以使用常见通用工具和材料加工组装的部件，必须到特定的厂家去购买，这部分组件就属于闭源的部分了。我们周末所使用的所有部件，应该都是开源的。
标准的轴承、导线、皮带轮、步进电机（舵机）、导轨、电源、标准的开源电子源型平台Arduino，以及各种螺丝、垫片、导线和用其他3D打印机打印出来的塑料件。开源硬件就像来源软件一样，最开始是有老外创建的，老外有很强的车库情节，他们喜欢在车库里面倒腾各种东西，很多PC时代的英雄，都是从车库里面走出来的。
讲台上摆放的是原型机，我们就是照着这台机器进行拼装的。
下图为本人拼装的打印头固定支架，算是比较麻烦的一个机械结构了。六个连接着万向轴的机械臂能够拉动打印头在三维空间中做精确的运动。
每两根机械臂连接在一个由步进电机带动的滑块上，滑块可以在导轨上上下滑动。下图为本人正在同事的配合下，将机械臂固定在滑块上。
这是正在组装的另外一个打印头。安装次序要求并不严格，他们先安装了打印头，我们则是先安装的滑块。
下图为支脚的安装，四个支脚，有两个是舵机，另外有一个需要安装开关，一个空支脚。
这是框架和导轨的安装，导轨的底端是舵机，固定舵机的白色塑料件就是其他3D打印机生产出来的。底座下面的绿色平台可以加热，平台四个角可以进行平衡调整，目前这种机器的平衡是依靠手工进行调整的。
导轨的顶端需要安装套皮带轮的轴承和一个传感器，三个滑块上都会有一个定位螺丝，滑块被皮带轮和舵机拉到顶端的时候，定位螺丝会触发传感器，控制器通过传感器上传来的信号，获知带动机械臂的滑块已经移动到顶端了。
下图为安装好的导轨、舵机、滑块、机械臂、打印头。顶端的传感器和皮带轮、皮带还没有安装。在安装的过程中，各种顺序错误和反攻不断，不过大家也是乐在其中，我们这帮每天面对键盘、鼠标和屏幕的人，能够有机会倒腾一次硬件，也是蛮有趣的一件事情。
下图是一个小队希望将连接在打印头上的机械臂固定在已经安装到导轨上的滑块上，不过最后他们失败了，不得不将滑块从皮带轮和导轨上拆卸下来，固定好机械臂之后，重新安装到导轨上，然后再重新捆绑皮带。
在安装完机械部分之后，就需要连接各种导线。
下图中，是我们唯一完成的成品，正在工作。
黄色的那些线圈，就是3D打印机所使用的耗材。控制面板只拼装出了一套，中间有几位美女在空闲时间用切割板和螺栓拼装了了一个房车，导致另外一个控制盒，无法拼出来了。
我们拼装出来的3D打印机，由4个舵机来驱动，三个舵机拉动机械臂，一个舵机负责送料，也就是向打印头输送塑料耗材。打印头加热到一定温度之后，打印料融化涂抹在底下的基板上，一层一层的涂上去，并冷却成型，就完成了3D打印。这些舵机都是由控制面板来控制。我们这次没有自己去动那些代码，没有发挥出我们的长处来。控制面板上有一个SD卡的读卡器，还有USB借口。最终我们是将做好分层的模型复制到SD卡中，然后有控制面板直接读取打印的 。
现在所有的常见3D建模软件都可以建立3D模型，然后再用一个免费的分层软件，将3D模型转换成分层模型。分层的时候需要选择分层精细程度和内部支撑框架的填充比例。所谓填充比例，也就是说，一个三维形状，模型只描述了外表面，内部结构都没有描述，就需要自动生成一个支撑网格。这个结构占整个体积的多少百分比。
在不同的时代，人们用不同的方式来对待创新，其目的通常都是鼓励创新，促进社会的进步。流传自西方的专利制度，在过去的百多年间确实很好的促进了科技水平的进步，大家都愿意去创新，创新者通过专利获益，成为了全社会的榜样。但是，到了现在，专利正在逐步的形成各种壁垒，科技发展速度越来越快，而专利以及相伴随的审核、诉讼制度则越来越无法适应现在，特别是互联网时代的科技进步。很多创新，在缺乏其他专利支撑的情况下，就无法独立完成，这导致了创新，以及应用创新技术的成本越来越高。审核两年，保护二十年的专利，对于现在的时代来说，已经逐渐显示出了老态。开源就是为了打破这种形式，更多的人，可以在别人创新的基础上进行创新，更多的人可以加入到创新的过程中去。3D打印这种技术，诞生已久，大公司也很难卖掉多少昂贵的设备，现在，很多人提供了开源的软硬件设备。全世界范围内有大量的小团队正在开发更多、更好用、更便宜的3D打印机。那些成熟的产品，已经在工厂里面开始生产。那些手工拼装出来的产品，价格也就是四五千元左右，如果这些产品能够在工厂里面大批量的生产，价格再下降一半也是非常正常的。
最终用户并不一定能够直接使用上开源的产品，但是开源能够让新产品的研发和定性，速度加快，成本降低。人们可以因为开源而用上更加便宜的服务和产品。这是一个开源的时代，开源必将改变越来越多人的生活。
RSS