
Votre LLM est trop gros pour décider
About this event
Aujourd’hui, le réflexe naturel est souvent de dégainer un LLM pour le moindre problème. Le problème ? C’est coûteux, parfois lent et surtout souvent inutile. Pourquoi demander à un modèle de générer et raisonner sur des dizaines de tokens quand notre application a simplement besoin de prendre une décision ?
Et si certains problèmes nécessitaient moins de réflexion… et davantage d’instinct ?
Dans ce talk, nous découvrirons une nouvelle approche inspirée de la pensée humaine et de la distinction entre Système 1 et Système 2 : les modèles de décision.
Nous nous intéresserons d’abord à Jev, qui propose une approche radicalement différente des LLM traditionnels : plutôt que de générer du texte token après token, le modèle évalue directement plusieurs décisions possibles et leur associe des probabilités.
Puis nous explorerons Laya, son alternative open-source et auto-hébergeable, pour comprendre son fonctionnement, ses forces, ses limites et surtout les problèmes auxquels ce nouveau type de modèle peut répondre.
Le speaker : Lucas Macori
"Je suis développeur full stack depuis 2016, passionné de tech, et chez SFEIR depuis 2024.
Depuis l’arrivée de l’IA agentique, je suis un utilisateur assidu de ces technologies et toujours en quête de nouvelles découvertes."
Quand ? Le 20 octobre de 12h15 à 14h
Où ? Dans nos locaux, SFEIR Lille
Le repas est offert !
Source: meetup