FX168财经报社(北美)讯Etched公司近日发布了有史以来速度最快Transformer芯片——Sohu。这款芯片由21岁的华裔哈佛辍学生创立的初创公司研发，专门用于加速大规模语言模型(LLM)的推理运算，展示了尖端创新和卓越性能。
(几位创始人，来源：澎湃）
Sohu芯片的设计体现了顶尖的技术突破，专为重新定义AI计算和应用的可能性而打造。其先进的处理能力使其能够以前所未有的速度处理复杂的计算。在运行Llama 70B模型时，Sohu每秒可以生成超过50万个token，相当于20块H100芯片或10块B200芯片。8xSohu服务器的性能甚至可以替代160块H100 GPU，展示了其卓越的效率和功能。
Sohu芯片的架构经过精心设计，旨在最大程度提高效率和速度，为AI硬件树立了新标准。它将高效的处理框架与专为深度学习和神经网络应用量身定制的架构相结合。这种优化使其能够以最小的延迟处理大量数据负载，成为实时数据处理和决策领域的变革者。
Etched公司在打造Sohu芯片的过程中投入了数年时间进行严谨的研究和开发，确保其满足当代人工智能应用的苛刻要求。该芯片的性能指标令人印象深刻，每秒可执行高达1,000万亿次运算(TOPS），远超市场上其他人工智能芯片的能力。
除了速度，Sohu芯片还具有极高的能效。速度与效率之间的平衡使企业能够增强其AI能力，同时避免过高的能源成本。该芯片仅消耗10瓦的功率，同时提供无与伦比的性能，是希望优化AI运营的企业的理想选择。
Sohu芯片的推出将通过实现更复杂的人工智能应用，彻底改变各个行业。例如，该芯片能够快速准确地处理大量数据集，显著改善医疗诊断和个性化治疗方案。Sohu的实时处理能力对于开发自动驾驶汽车至关重要，因为在汽车行业中，瞬间决策至关重要。
Etched致力于推动AI技术的发展，这一点从Sohu芯片的稳健设计和卓越性能中可见一斑。通过解决速度和效率的关键挑战，Sohu为AI硬件树立了新标杆，为更先进、更强大的AI解决方案铺平了道路。Sohu芯片每秒可执行10千亿次浮点运算，凸显了其在改变行业和改善广泛应用成果方面的潜力。
Sohu芯片的影响不仅限于单个行业，还将加速先进人工智能系统的开发和部署。其强大的处理能力使预测分析、自然语言处理和图像识别取得了突破，推动了高度依赖人工智能技术的领域的创新。随着人工智能不断融入日常生活的各个方面，Sohu芯片将成为推动这一技术发展的关键创新。
总之，Etched的Sohu AI芯片是AI技术的革命性进步，提供了无与伦比的速度和效率。凭借每秒高达1,000万亿次运算的能力，同时功耗仅为10瓦，Sohu为AI硬件树立了新标准。它的开发标志着该领域的一个重要里程碑，对众多行业具有深远的影响。随着Sohu融入各种应用程序，其影响将遍及全球，推动创新并增强AI系统的功能。
热门跟贴