groq

Groq携手Hugging Face挑战云服务巨头,AI 推理速度上新台阶

近日,人工智能推理初创公司 Groq 宣布了两项重磅消息,意在挑战亚马逊云服务(AWS)和谷歌等传统云计算服务提供商。Groq 现在支持阿里巴巴的 Qwen332B 语言模型,并提供其完整的131,000-token 上下文窗口能力,这一技术优势在当前快速推理提供商中无出其右。同时,Groq 也成为了 Hugging Face 平台的官方推理提供商,这意味着其技术将接触到全球数百万开发者。图源备注

击败GPT-4o!Phonely语音AI突破99.2%准确率,客户中心裁员350人

在AI语音客服领域的一个关键技术障碍——延迟和不自然的对话体验,终于被打破。人工智能电话支持公司 Phonely、推理优化平台 Maitai 以及芯片制造商 Groq 三方联合,打造出一套可实时切换模型、响应快如人类的电话AI系统,推动语音AI进入“拟人新纪元”。据披露,通过此次合作,Phonely 的响应速度提升超过70%,AI对话准确率从81.5% 提升至99.2%,超越 GPT-4o 的94

quivr

Opiniated RAG for integrating GenAI in your apps ? Focus on your product rather than the RAG. Easy integration in existing products with customisation! Any LLM: GPT4, Groq, Llama. Any Vectorstore: