Après avoir envahi le cloud, l’IA générative va débarquer sur nos PC en local. Mais tous les ordinateurs ne seront pas suffisamment performants pour en profiter. Votre PC est-il assez puissant ? Faites le test.
Maintenant que les chatbots et fonctionnalités d’IA basées sur les grands modèles de langage (LLM) fonctionnant via le cloud se sont bien développés, la prochaine grande étape est de faire tourner tout cela en local sur nos PC. De ce fait, certaines options boostées à l’IA pourront fonctionner plus efficacement, de nouvelles applications pourront être développées, et les données de l’utilisateur ne sont pas envoyées vers divers serveurs, assurant une meilleure protection de la vie privée. Sans oublier que cela permet d’utiliser l’IA générative hors-connexion.
Des modèles de langage étendus optimisés pour nos machines sont mis au point, mais problème, leur exploitation exige une grande quantité de ressources pour opérer de manière efficiente. Il faut donc être équipé d’un ordinateur doté d’un certain niveau de matériel pour espérer disposer de l’IA générative en local. Les NPU sont un composant important à cette fin. Le nouveau label Copilot+ PC assure d’ailleurs que l’appareil peut faire tourner de petits modèles de langage en local.
VOTRE PC EST-IL ASSEZ PUISSANT POUR L’IA GÉNÉRATIVE EN LOCAL ?
Mais d’autres PC qui ne sont pas estampillés Copilot+ peuvent bien sûr prétendre à utiliser l’IA générative en local. Pour savoir si votre PC est compatible, Opera a lancé le service devicetest.ai. Celui-ci exécute une série de tests pour vous informer si votre ordinateur est assez performant. Un LLM est téléchargé sur votre machine, puis l’utilitaire va évaluer des éléments tels que les jetons par seconde, la latence du premier jeton et le temps de chargement du modèle.
Pour lancer le test, vous devez télécharger la dernière version d’Opera Developer, puis suivre les étapes suivantes :
- Rendez-vous sur le lien suivant.
- Cliquer sur « Exécuter le test ».
- Choisir un profil pour effectuer le test.
- Cliquer sur « Démarrer le test ». Il peut durer de 3 à 20 minutes.
À la fin du test, vous obtenez un résultat. Vert signifie que le matériel est pleinement compatible avec l’IA embarquée, Jaune qu’il sera en mesure de l’exécuter et Rouge que l’ordinateur ne peut pas prendre en charge cet usage. Les détails des tests sont aussi affichés, et peuvent être téléchargés au format CVS.
