Voici Jev, l'IA de TypeSafe qui décide au lieu de générer du texte

Un arbitre plutôt qu'un rédacteur

Concrètement, Jev agit comme un arbitre plutôt que comme un rédacteur. Le modèle tranche parmi des options définies à l'avance à travers trois fonctions claires : choisir une option, attribuer un score, ou rendre une décision binaire.

Fini donc le texte imprévisible. Ce modèle d'IA répartit des probabilités sur des options avec un taux d'erreur de formatage annoncé comme nul.

Pour les chaînes d'agents virtuels, c'est donc une bascule stratégique. Car actuellement, vérifier un document ou router une requête impose l'usage de modèles génératifs lourds, lents et onéreux.

Jev s'insère dans l'infrastructure pour assumer ces segmentations à une fraction du coût des modèles d'IA classiques, promettant des exécutions presque dix fois plus rapides selon les concepteurs.

Une IA conçue nativement pour les machines

Mais attention, l'impact de cette rapidité dépasse la simple économie d'infrastructure.

Une décision rendue en moins de cent millisecondes n'est plus vérifiable par un superviseur humain avant son exécution. Diogo Almeida, dirigeant de TypeSafe AI et ancien chercheur d'OpenAI, pousse ici une intelligence artificielle conçue nativement pour les machines.

Jusqu'ici, la latence des grands modèles interdisait de leur déléguer des boucles d'action en temps réel, comme l'acceptation instantanée d'une transaction.

Avec cette nouvelle approche, l'autonomie bascule de l'interface visible vers les fondations logicielles de l'entreprise. L'outil peut ainsi traiter des milliers d'opérations par seconde sans allonger le temps de réponse subi par l'utilisateur final.

Et c'est précisément ici que la prudence s'impose pour les décideurs.

Economie et gouvernance

Car déléguer un routage basique à Jev optimise immédiatement les budgets. Toutefois, lui confier des décisions engageantes soulève un défi complexe de gouvernance.

TypeSafe AI garantit que la forme de la réponse sera toujours parfaite grâce à son entraînement spécifique. Cependant, un format valide ne garantit pas la justesse du jugement de fond.

Sans garde-fous, un automate qui arbitre peut accumuler des biais invisibles avant tout audit humain. L'enjeu pour les DSI est de définir avec précision le périmètre de décision qu'ils acceptent d'abandonner à la machine.

Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous !