AMD ha adquirido la startup canadiense Taalas, especializada en la creación de chips de inferencia. Fundada en Toronto en 2023, Taalas se destacó por su enfoque innovador al integrar la arquitectura de modelos y parámetros entrenados directamente en el chip. Este diseño permite una inferencia extremadamente rápida, alcanzando más de 16,000 tokens por segundo por usuario con el modelo Llama 3.1-8B, superando considerablemente a otros hardware en el mercado.
El chip de demostración de Taalas, que tiene Llama incorporado, es notable por su velocidad, aunque está limitado a un solo modelo. AMD planea integrar esta tecnología en su hoja de ruta de aceleradores y ofrecerla junto a sus GPUs Instinct como una solución a nivel de sistema. Vamsi Boppana, vicepresidente de la división de IA de AMD, afirmó que esta adquisición fortalecerá el portafolio de inteligencia artificial de la compañía.
Por su parte, Ljubisa Bajic, cofundador de Taalas, mencionó que AMD aporta la escala y el alcance necesarios para el crecimiento de la startup. La adquisición está sujeta a las aprobaciones regulatorias estándar.