Le cours Foundations of Open Generative AI Engineering présente aux apprenants les principes, les architectures et les compromis qui définissent le paysage de l'IA générative ouverte. En commençant par les distinctions entre les modèles open source, open weights et open access, les apprenants explorent les différents cadres de licence - y compris MIT, Apache et CreativeML Open RAIL-M - et leurs implications pour l'utilisation commerciale, l'attribution et la conformité.

Le cours couvre ensuite les architectures de base des grands modèles de langage ouverts (LLM) tels que Llama, Mistral et Mixtral, ainsi que les modèles de diffusion utilisés pour la génération d'images. Les apprenants analysent comment des facteurs tels que la taille des paramètres, les fenêtres contextuelles et la vitesse d'inférence ont un impact sur les performances et l'adéquation aux différentes applications. Le dernier module développe un cadre décisionnel structuré pour évaluer les modèles ouverts par rapport aux modèles fermés, en équilibrant le coût, l'évolutivité, la personnalisation, la confidentialité et la souveraineté des données. En complétant un rapport d'analyse de sélection de modèle, les apprenants acquièrent la capacité d'évaluer de manière critique et de recommander des modèles d'IA générative appropriés pour des cas d'utilisation dans le monde réel.