GroqのLPUは、従来のGPUとは全く異なるアーキテクチャを採用し、AI推論処理に特化して設計されています。 その結果、1秒間に100トークン以上を処理するという、他の追随を許さない速度を実現しました。 これは、NVIDIAのGPUと比較して最大100倍、 ChatGPTと比較 ...

LPU(※Groqが提唱する推論向けアーキテクチャ)」の視点、NVIDIAや他の大手が抱える課題、そしてAIがもたらす大規模なインフラ・社会構造変化を整理します。なお、本記事はジョナサン氏のインタビュー内容を基に要点をわかりやすくまとめたものです。

AI チップのリーダーである Groq は、自社の技術を強化するために DefiIntelligence を買収しました。 彼らは、AI 開発を容易にするために、Sunny Madra が主導権を握る GroqCloud を立ち上げています。 このパートナーシップは、AI ツールをよりアクセスしやすくし ...

OpenAI の ChatGPT と比較すると、Groq が 1 マイルの差で勝っています。 Groq を使用した最初の公開デモ: 超高速 AI Answers Engine。 事実に基づいた、引用された回答を数百語で 1 秒以内に書きます。 時間の 3/4 以上が生成ではなく検索に費やされます。 LLM は ...

O centro, que promete ser o maior do mundo focado em AI inferencing, estará operacional até o fim deste ano, e busca não só atender à demanda por IA da Aramco, mas também de outras empresas na região.

Este é um aplicativo de transcrição de fala para texto desenvolvido com Streamlit, Whisper, LangChain e Groq. O aplicativo permite que os usuários gravem suas vozes, transcrevam o áudio em texto e ...

Publicado em 22 de fevereiro de 2024 às 09h35. Se você (assim como todo o mundo) está impressionado com a capacidade da Nvidia para chips de IA, então você pode se interessar também pela Groq. A ...