Ouvrir le menu principal

iGeneration

Recherche

Sur la défensive, Apple justifie l’abandon de son projet de détection des contenus pédopornographiques

Anthony Nelzin-Santos

vendredi 01 septembre 2023 à 23:00 • 31

Services

Deux ans après sa présentation et dix mois après son abandon, le mécanisme de détection des contenus pédopornographiques proposé par Apple fait toujours parler de lui. Alors que le groupe Heat Initiative prévoit de lancer une campagne de protestation, accusant la firme de Cupertino de favoriser la diffusion « d’images identifiées de viols d’enfants sur iCloud », Apple s’est sentie obligée de justifier son apparent recul. Une posture défensive aussi rare que les enjeux sont importants.

Apple avait imaginé un complexe mécanisme d’encodage pour représenter les photographies sous la forme d’un identifiant numérique capable de résister au recadrage et aux retouches. Avant qu’une photographie ne soit synchronisée avec la photothèque iCloud, le système aurait comparé son identifiant à ceux des photographies de la base de contenu pédopornographique (CSAM) du National Center for Missing and Exploited Children (NCMEC), une ONG de lutte contre la traite des êtres humains associée aux autorités américaines.

En cas de correspondances répétées, Apple avait prévu un système de vérification manuelle pour écarter les erreurs et de signalement au NCMEC pour pénaliser les fautifs. La firme de Cupertino assurait que son système alliait protection de la confidentialité, puisque l’encodage des photographies aurait été réalisé sur les appareils, et protection des mineurs, puisque toutes les photographies transitant par iCloud auraient été analysées. À ceci près qu’elle avait oublié l’existence de l’effet d’un cliquet.

L’intégration au sein du système d’un mécanisme de vérification des photographies aurait probablement attiré la convoitise des vraies dictatures et des fausses démocraties à la recherche de contenus « subversifs ». Apple avait promis-juré-craché qu’elle ne l’aurait jamais permis, mais elle s’est toujours conformée à ses obligations légales, même lorsqu’elles s’opposent à la liberté d’expression ou à la liberté de la presse. Cette bonne intention préfigurait un enfer.

Thorn, l’organisation fondée par Demi Moore et Ashton Kutcher pour concevoir des solutions technologiques à l’exploitation sexuelle des enfants, avait salué le projet d’Apple. Son ancienne vice-présidente des affaires externes, Sarah Gardner, est maintenant à la pointe de la protestation contre son abandon. Dans un courrier électronique envoyé à Tim Cook, son groupe Heat Initiative dénonce un recul « décevant ».

Une fois n’est pas coutume, Apple est montée au créneau pour défendre sa position. Dans une déclaration à Wired, Erik Neuenschwander explique que « l’analyse des données privées de chaque utilisateur dans iCloud créerait de nouveaux vecteurs de menaces. » Au moment où les autorités britanniques exigent une porte dérobée dans les mécanismes de chiffrement bout-à-bout « pour protéger les enfants », Neuenschwander mentionne explicitement les messageries chiffrées et le « risque d’une pente glissante aux conséquences imprévisibles. »

« La recherche d’un type de contenu particulier pourrait ouvrir la voie à une surveillance de masse », poursuit-il en reprenant les arguments de ces anciens détracteurs, « nous avons conclu qu’en pratique, il est impossible d’implémenter [notre projet] sans mettre en péril la sécurité et la confidentialité de nos utilisateurs. » Apple préfère mettre l’accent sur des fonctionnalités plus généralistes et plus éducatives, comme le floutage préventif des photographies pornographiques dans le cadre de la « sécurité des communications ».

Photos, Messages : Apple dévoile de nouveaux mécanismes pour lutter contre la pédopornographie

Photos, Messages : Apple dévoile de nouveaux mécanismes pour lutter contre la pédopornographie

Apple abandonne l

Apple abandonne l'idée de scanner les photos pour détecter des images pédopornographiques

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

Microsoft a conçu une publicité par IA et personne n’a rien vu

13:45

• 3


Comment Apple résume (mal) les commentaires de l’App Store

11:45

• 13


Tous les iPhone 17 pourraient passer à 12 Go de RAM

11:00

• 36


Apple voudrait rapidement produire en Inde 100% des iPhone américains

08:05

• 22


iPadOS 19 verrait apparaître une barre de menus sur iPad

24/04/2025 à 23:05

• 44


Huit ans après DeX, Apple s’ouvrirait peu à peu à un bureau sur écran externe pour iOS 19

24/04/2025 à 23:00

• 38


L’iPhone 16 dans une nouvelle réclame mettant en avant sa solidité

24/04/2025 à 21:00

• 17


Choisissez la couleur du tee-shirt des 25 ans de MacGeneration !

24/04/2025 à 20:22

• 44


Hausse de Netflix : Canal+ et Free augmentent les prix de leurs options 🆕

24/04/2025 à 18:04

• 36


Coups bas et mauvaises manières entre l'Inde et la Chine pour la fabrication des iPhone

24/04/2025 à 18:00

• 21


Air France va diffuser les contenus Canal+ sur tous ses vols long-courriers à partir du premier mai

24/04/2025 à 15:30

• 11


L’AI Pin revient d’entre les morts avec le projet OpenPin

24/04/2025 à 14:23

• 7


Vous pouvez récupérer le pin’s créé pour les dix ans de l’Apple Watch en Apple Store 🆕

24/04/2025 à 14:21

• 67


De nouvelles maquettes de l’iPhone 17 « Air » dévoilent sa finesse

24/04/2025 à 13:30

• 39


Apple ne signe plus iOS 18.4, restauration obligatoire en 18.4.1

24/04/2025 à 12:20

• 3


Aqara présente quelques nouveautés, dont un thermostat sans fil et un kit de surveillance complet

24/04/2025 à 11:30

• 11