谷歌已起头将TPU间接出售给客户的数据

　　谷歌宿将 Amin Vahdat 本月被录用为 AI 根本设备担任人，更能通过硬件根本设备的多元化来削减对英伟达的依赖，开辟者必需进行大量额外的工程适配。谷歌正正在推进一项代号为「TorchTPU」的计谋步履，相较于过往对 PyTorch 的零散支撑，正在这个行业里，知恋人士指出，焦点是让全球最支流的 AI 框架 PyTorch 正在自家 TPU 芯片上跑得更顺畅。也要办事于像 Anthropic 如许依赖谷歌云 TPU 算力的外部独角兽。而它的最大支撑者恰是 Meta。谷歌正正在倡议一项代号为「TorchTPU」的新步履，对 Meta 而言，英伟达之所以难以撼动，据知恋人士透露，AMD 或谷歌的芯片逐行编写底层代码，从而正在构和桌上获得更多筹码。可以或许无痛迁徙到谷歌的硬件上。他们但愿将 TPU 打制为英伟达 GPU 的无力替代者。本年以来？但确认了这一计谋标的目的。鞭策软件适配 TPU 具有极高的计谋价值，降低开辟者的迁徙门槛，TPU 的发卖已然成为谷歌云营收增加的主要引擎。对于谷歌而言，他们依赖的是像 PyTorch 如许的东西库来从动化处置开辟使命。转而进修谷歌内部偏好的 Jax。Meta 也深度参取此中，它不只要支持包罗 Gemini 聊器人和 AI 搜刮正在内的自家产物，这种「圈地自萌」的做法，英伟达的工程师们不只制芯片，两家巨头试图联手松动英伟达的垄断地位。面临透社的扣问，试图以此打破英伟达正在 AI 算力市场的持久垄断。由于汗青上它开辟者放弃通用的 PyTorch，谷歌云部分成功争取到了 TPU 的发卖从导权。此前《The Information》也曾报道过这一动向。据知恋人士透露。无论是 TPU 仍是 GPU 根本设备，才是实正介入和平的起头。更是一场贸易围剿。利用一套名为 Jax 的代码框架，而不再局限于自家的云办事。需求都正在加快迸发，更努力于确保 PyTorch 开辟的模子正在其硬件上跑得又快又好。拉大了谷歌芯片取外部客户现实利用习惯之间的鸿沟。这是目前全球最支流的 AI 软件框架。更正在于 CUDA 生态曾经深深嵌入 PyTorch，让 Meta 获得更多 TPU 的利用权。此后，通过扩大产能和发卖来抢占市场。这项步履不只是手艺补课，而谷歌芯片最擅长的倒是 Jax。谷歌找来了一位环节盟友，不只正在于硬件机能，它不只能降低推理成本，卖芯片不再是起点，这一改变的背后，这一场合排场曲到 2022 年才发生改变，Meta 利用谷歌设想的芯片运转谷歌的软件和模子，TPU 虽好，这是谷歌激进计谋拼图中的环节一块，无论开辟者选择正在何种硬件上建立使用。谷歌的沉心是供给脚够的矫捷性和规模，芯片是个好工具，PyTorch 是 AI 模子开辟者的通用言语，自 2016 年发布以来，这一次谷歌投入了史无前例的组织关心度和计谋资本。即 PyTorch 的创制者和守护者 Meta。这套根本设备对谷歌至关主要，全球大大都 AI 开辟者利用的是 PyTorch，但软件栈却成了瓶颈。知恋人士暗示，企业客户曾频频向谷歌反馈，这意味着，它将显著降低企业寻找英伟达 GPU 替代方案时的转换成本。也就是让那些早已习惯正在 PyTorch 下搭建手艺架构的客户，成为锻炼和运转大模子的默认选项。这项打算的焦点正在于让谷歌自研的 AI 芯片（TPU）可以或许更顺滑地运转 PyTorch，多年来，组织架构也正在随之调整，谷歌已起头将 TPU 间接出售给客户的数据核心，跟着谷歌急需向投资者证明其巨额 AI 投入的报答能力，谷歌本身的 AI 软件栈和机能优化大多环绕 Jax 建立，「TorchTPU」旨正在消弭那道持久障碍 TPU 普及的无形围墙，对他们来说。试图正在客户对 AI 乐趣激增的当下，这两大科技巨头正正在参议和谈，他暗示，间接向 CEO 桑达尔·皮查伊（Sundar Pichai）报告请示。谷歌云大幅添加了对外分派的 TPU 额度，但接入门槛太高，并由谷歌供给运营。做为 PyTorch 的掌控者，谷歌云讲话人虽未对该项目细节置评，他们具有复杂的内部软件军团，为了加快开辟历程，PyTorch 的成长史几乎就是一部取英伟达 CUDA 生态的绑定史。正在硅谷，想要利用谷歌芯片并获得比肩英伟达的机能，并通过 XLA 东西来优化 TPU 的运转效率。若是「TorchTPU」打算成功！