Éthique, droit et sécurité– category –

Les capacités de l’IA ne se manifestent pas de la même manière chez les personnes qui l’utilisent pour faire des recherches ou rédiger des textes et chez celles qui lui confient des tâches de développement. À partir de la classification des utilisateurs proposée par Karpathy et des propos des développeurs de Claude Code, nous analysons les différences d’usage, la manière de formuler les instructions qui les explique, ainsi que les mesures de sécurité nécessaires pour les IA qui fonctionnent longtemps.

Amazon a annoncé qu’il n’utiliserait pas d’accords de confidentialité dans ses négociations avec les collectivités concernant des centres de données. Alors que les agents d’IA grand public demandent eux aussi à accéder à des informations sensibles, il est essentiel d’examiner la confiance nécessaire à l’utilisation de l’IA sous deux angles : la divulgation des informations et la gestion des autorisations.

L’entreprise australienne Apate utilise une IA qui se fait passer pour une victime afin de prolonger les conversations avec les escrocs et de recueillir des informations sur leurs méthodes et leurs bénéficiaires. L’objectif est de leur faire perdre du temps. Toutefois, la durée des échanges et leur effet sur la réduction des préjudices doivent être évalués séparément.