Advantech lance GenAI Studio, un logiciel intégré à son SDK Edge AI, pour faciliter le développement local de modèles de langage (LLM) à moindre coût. Cette solution vise à rendre l’IA générative plus accessible, notamment aux PME, en réduisant la dépendance aux GPU puissants.

GenAI Studio propose une plateforme no-code compatible avec des LLM locaux et cloud (OpenAI, Gemini, Anthropic, Ollama). Il intègre des outils de réglage fin, d’inférence, et de gestion avancée des ressources GPU, permettant une utilisation efficace même avec un matériel limité.

Le SDK Edge AI comprend trois modules :

  • GenAI Studio pour la création de LLM personnalisés,
  • un kit d’inférence pour optimiser les runtimes IA,
  • une plateforme d’orchestration pour gérer les déploiements à grande échelle.

Associé au serveur AIR-520, équipé de GPU NVIDIA RTX et de SSDs AI, l’ensemble forme une solution complète pour les secteurs industriels, médicaux et commerciaux.

Advantech