Tianrong Internet Products and Services, Inc. a annoncé le lancement d’une nouvelle initiative stratégique axée sur la création d’une place de marché dédiée à l’inférence IA, ...

Elastic a rendu disponibles deux rerankers Jina sur Elastic Inference Service , un service d'inférence en tant que service accéléré par GPU, qui facilite l'exécution rapide d'inférences de ...

Elle s’appelle Positron AI et compte déjà une puce d’inférence commercialisée. Après trois ans d’existence, la start-up lève ...

Quand il est question d’IA générative et de grands modèles de langage, difficile de ne pas évoquer Nvidia. Le concepteur fabless d’accélérateurs de calcul est devenu la coqueluche des marchés ...

À l’occasion du Red Hat Summit 2025, l’éditeur open source met en avant son Red Hat AI Inference Server, de nouveaux modèles validés par des tiers, et l’intégration des API Llama Stack (Meta) et MCP ...

Swami Sivasubramanian, VP AI et Ddta d'AWS, annonce l'arrivée de nouvelles fonctionnalités pour entraîner et inférer plus facilement les modèles d'IA générative tout en réduisant (encore) les coûts.

Le fournisseur de LLM canadien a annoncé Model Vault, une plateforme SaaS dédiée sous la forme d’un cloud privé virtuel isolé ...

Evoquer l'intelligence artificielle revient souvent à porter l'attention sur l'entraînement d'énormes modèles de deep learning, mobilisant des milliers de GPU pendant plusieurs semaines. Pourtant, la ...

Positron AI, leader dans le domaine du matériel d'inférence IA économe en énergie, a annoncé aujourd'hui une levée de fonds ...

Le fabricant d'ordinateurs d'IA affirme que son service d'inférence est beaucoup plus rapide et qu'il rend possible de nouveaux types d'IA « agentique ». Le marché des prédictions issues de ...

La plupart des modèles d'IA étant entraînés et déployés, les GPUs sont-ils encore au goût du jour pour faire face à la prochaine évolution de l'intelligence artificielle: l'inférence. Il ne fait aucun ...