Apple a récemment annoncé que la principale mise à jour de Siri, basée sur une intelligence artificielle avancée, ne sera lancée que l'année prochaine. Certains développeurs pensent que la raison de ce report est liée aux risques de sécurité, plus précisément la possibilité que l'assistant vocal soit «jailbreak-usine» et exploité de manière involontaire.
Simon Willison, développeur de la plate-forme d'analyse de données de données de données, suggère qu'Apple peut reporter le lancement en raison de problèmes de «injections rapides» – une méthode par laquelle les utilisateurs peuvent convaincre de l'ignorer les restrictions imposées par les développeurs. Par exemple, si un chatbot est prévu pour refuser de fournir des informations sur les activités illégales, un utilisateur qualifié pourrait réformer la demande sous la forme d'un poème ou d'une histoire, ce qui a permis à l'IA de fournir des informations qui ne seraient pas révélées.
Cette vulnérabilité est un problème général de l'intelligence artificielle, et les entreprises qui développent de telles technologies tentent constamment de limiter ces violations. Cependant, les dangers sont plus élevés depuis Siri, car cet assistant vocal a accès à de nombreuses données personnelles et peut effectuer des actions au nom de l'utilisateur.
Jacqueline Roy, porte-parole d'Apple, a expliqué que la future version de Siri sera plus personnalisée, capable de mieux souvent le contexte de l'utilisateur et d'agir dans ses applications. Cette fonctionnalité avancée soulève naturellement des problèmes de sécurité, car un jailbreak de Siri pourrait conduire à une exposition d'informations sensibles ou même à l'exécution de commandes indésirables.
Apple est connu pour ses normes de haute sécurité et de confidentialité, et dans ce cas, il semble très prudent. Le développement d'un plus intelligent, mais aussi à 100% sûr, est un processus complexe, c'est pourquoi Apple préfère prendre plus de temps pour s'assurer que le produit final ne peut pas être exploité. Il reste à voir si, lors du lancement de 2025, Siri pourra non seulement être plus capable, mais aussi parfaitement sécurisé.