Apple supprime plusieurs apps qui permettaient de générer des photos de nu grâce à l’IA
Apple a supprimé trois applications permettant de générer des photos de personnes nues sans leur consentement. Ces applications se présentaient comme des apps créatives sur l’App Store, sans mettre en avant la possibilité de créer du contenu pour adulte. Comme l’a révélé 404 Media, elles permettaient également de « déshabiller » les personnes d’une photo en se basant sur les IA génératives.
Ces applications se présentaient simplement comme des « générateurs artistiques » sur la boutique d’Apple ou sur leur site, dans la même veine qu’un DALL-E ou Midjourney. Cependant, les programmes mettaient clairement en avant la possibilité de « déshabiller n’importe qui » dans leurs réclames sur les sites pornographiques… ou dans des publications sponsorisées sur Instagram. Il n’était pas difficile de les identifier : certaines vantaient leurs fonctionnalités 18+ dès le lancement, tandis que des commentaires y faisaient directement référence sur la fiche App Store.
404 Media a sonné l’alarme en début de semaine et note qu’Apple a supprimé 3 applications quelques jours plus tard. Il aura fallu attendre que quelqu’un les signale, montrant bien que les équipes de vérification n’ont pas réussi à les détecter toutes seules. Un joli trou dans la raquette de Cupertino, qui ne cesse de répéter que son App Store est un endroit sûr à l’heure où l’UE la force à ouvrir iOS aux boutiques alternatives.
Si cela n’est pas précisé, on peut imaginer que la génération d’image se passait sur des serveurs externes. Les malandrins ont peut-être réussi à feinter la vérification initiale de la Pomme en désactivant certaines fonctions pour adulte avant de les activer après un certain temps. Au vu du flot d’applications par IA qui vont arriver dans les prochains mois, on peut espérer qu’Apple va redoubler d’attention sur les futures apps d’IA.
@Mac1978
Ça n’a rien à voir. Ce n’est pas ma comparaison qui en cause mais le fait que vous ne soyez pas d’accord avec moi. Donc forcément, comme vous n’êtes pas du même avis que moi, alors implicitement mon avis est faux, et donc ma comparaison ne fonctionne pas. Mais il ne faut pas prendre le problème à l’envers 🙂.
@cecile_aelita
Si vous pensez que comparer l’écosystème autour d’iOS à une pizza est pertinent d’un point de vue économique et juridique, et que vous souhaitez ramener une divergence de vue à votre personne, alors qu’elle est factuelle, libre à vous.
Mais, j’aurais espéré une argumentation sur le fait que Burger King et iOS sont économiquement et juridiquement comparables. J’aurais alors pu sortir de ma zone de confort et apprendre quelque chose si l’argumentation avait tenu la route.
Je suis obligée de continuer à penser qu’iOS n’est pas un simple bien ou service de consommation comme peu l’être une pizza ou un hamburger, mais bien un écosystème faisant se rencontrer des offreurs (les développeurs) et les consommateurs, et que sur cet écosystème une firme privée a construit et verrouiller un monopole de distribution. Les actions des régulateurs européen, américain et japonais tendent à me donner raison.
Ce qui me préoccupe sur le sujet de cet article, c’est qu’une entreprise privée en situation de monopole puisse décider ce qui est bien ou mal alors qu’il me semble que c’est exactement le rôle de la puissance publique.
@gwen
Comparer l’iPhone au scotch est vraiment inapproprié.
L’iPhone est une plateforme qui représente à lui seul un marché avec des millions d’offreurs (les développeurs) et des centaines de millions de demandeurs (vous et moi), et un seul distributeur qui dispose (disposait) d’un monopole. Et le monopoleur fait tout pour vous garder captif en compliquant la migration vers une autre plateforme, voire en compliquant les interactions avec d’autres plateformes.
Quand ce marché représente plusieurs millions d’offreurs et de demandeurs, le monopole du distributeur n’est pas admissible d’un point de vue légal. C’est ce qu’a estimé le Department of Justice des USA, et qu’ont jugé la Commission européenne et le département de la justice japonais.
Et dans cette situation de monopole, il n’est pas normal que le monopoleur décide de ce qui est moral ou pas.
Ou est la comparaison avec le scotch, Rolex, ou mobilette ?
@Mac1978
Moi ce qui me choque c’est la robe sur la taille/hanches sur la photo d’illustration…
MacG, est-ce que la prochaine fois vous pourriez indiquer ces apps AVANT qu’elles ne soient supprimées ? 😋
@John McClane
Vu le texte, il semble qu’ils les aient loupé aussi 🙈
@John McClane
Pas très compliqué à trouver sur Google en vrai… et l’IA fait ni plus ni moins qu’une bonne personne qui va maîtriser Photoshop.
@Ralph_
« l’IA fait ni plus ni moins qu’une bonne personne qui va maîtriser Photoshop. »
C’est bien ça le soucis … avant ce genre de détournement était limité à une poignée de gens très compétents… maintenant un ex un peu frustré, sans la moindre connaissance en photoshop, pourra pourrir son ex copine juste à partir d’un vulgaire selfie d’elle et diffuser une photo d’elle nue n’importe où…
Quand la technologie est au service du progrès 🫤.
C’est bien ça le soucis … avant ce genre de détournement était limité à une poignée de gens très compétents… maintenant un ex un peu frustré, sans la moindre connaissance en photoshop, pourra pourrir son ex copine juste à partir d’un vulgaire selfie d’elle et diffuser une photo d’elle nue n’importe où…
Bah on pourra enfin dire que les vrais photos de nu sont en fait des photos générées par IA et donc qu'elles sont fausses.
Ça peut donc servir à diluer les vrais photos volées par plein de fausses générées.
@bibi81
Ça fonctionne pour celles et ceux qui diffusent des photos de nues … mais celles qui n’en faisaient pas …. Ça ne les arrangera pas …
On en revient encore et toujours à la même chose … des outils super puissants sont créés et l’Homme (avec un H majuscule … je précise 🤦♀️) détourne son usage pour en faire quelque chose de mal… Pour avoir déjà été confronté à cela … je peux confirmer que c’est vraiment dramatique d’arriver à ce genre d’utilisation …
@cecile_aelita
"l’Homme avec un H majuscule … je précise 🤦♀️
détourne son usage"
————-
Pourquoi cette précision ?
Parce que tu n’imagines pas une seconde qu’il puisse y avoir ne serait-ce qu’une seule femme qui en soit capable ?
Ou je me trompe et c’est tout autre chose ?
@MarcMame
Ben H majuscule c’est pour préciser que c’est l’être humain.
Apres je ne sais pas ce qui est le plus choquant. Que des gens utilisent l’IA pour déshabiller des personnes? Pour utiliser des drones qui vont cibler des populations? Bref. Comme toujours, à double tranchant la technologie.
@MarcMame
Oh vous êtes la 😍! Je m’inquiétais de ne plus voir vos message 🥰…
Du coup vous ne m’aviez pas répondu la dernière fois sur votre déclaration de votre flamme à mon sujet 🙂
@cecile_aelita
"Oh vous êtes la 😍! Je m’inquiétais de ne plus voir vos message 🥰…
Du coup vous ne m’aviez pas répondu la dernière fois sur votre déclaration de votre flamme à mon sujet 🙂"
————-
En tant qu’enseignante vous avez séché les formations sur le harcèlement ?
Réfléchissez bien à ce que vous faites sur les réseaux.
@MarcMame
Je vous retourne le compliment !!
Quand on dénigre l’intégralité de ce que dis quelqu’un de manière hautaine et sans fondement autre que « vous n’êtes pas d’accord avec moi donc vous avez tord »… une fois deux fois ça passe mais quand c’est systématique ça s’appelle du harcèlement en effet !
Et du coup harceler un harceleur. Est ce du harcèlement ?
@cecile_aelita
"Et du coup harceler un harceleur. Est ce du harcèlement ?"
———-
Vous le sauriez si vous aviez suivi votre formation.
@MarcMame
Visiblement vous n’en savez pas plus!
Dire qu’il suffirait que vous m’ignoriez !
En tout cas moi mon petit cœur est content! 😍😍!! On va se boire un verre du coup? ❤️
@cecile_aelita
"Dire qu’il suffirait que vous m’ignoriez !"
————
C’est valable pour vous d’autant plus que vous disposez d’un bouton pour ça.
@MarcMame
C’est systématiquement vous qui venez me parler 😋!
Je n’ai pas souvenir une seule fois d’être venu vous répondre à un commentaire que vous auriez mis en premier ❤️❤️
@cecile_aelita
Vous éludez
@MarcMame
Je vous propose que nous nous ignorions complètement à partir de maintenant ?
On verra qui répondra à l’autre le premier ❤️❤️
@cecile_aelita
Proposition refusée.
C’est vous qui vous plaignez de mes réponses.
Si elles ne vous plaisent pas, VOUS pouvez m’ignorer et si vous ne vous en sentez pas capable, MacG met un outil de sevrage à votre disposition à cet effet.
Si vous ne faites ni l’un ni l’autre, ne venez pas vous plaindre.
@MarcMame
Et ça parle de harcèlement ensuite !
@MarcMame
Très bien, nous verrons ce que la modération de macg en pense.
@cecile_aelita
"Je n’ai pas souvenir une seule fois d’être venu vous répondre à un commentaire que vous auriez mis en premier"
———-
C’est le problème avec les poissons rouge.
@MarcMame
"Ou je me trompe"
Oui, tu es même complètement à côté de la plaque !
@Phiphi
"Oui, tu es même complètement à côté de la plaque !"
————
Cette particularité de poser une question personnelle à quelqu’un et d’avoir la réponse par quelqu’un d’autre me fascinera toujours autant.
@MarcMame
« Oui, vous êtes même complètement à côté de la plaque ! »
Du coup phiphi a juste répondu plus vite que moi 😂
@MarcMame
Et encore, t’as de la chance, sur une couillonnade pareille de ta part, sur un machin comme TwiXter, t’aurais eu quarante-douze éclats de rires en réponse en moins de dix minutes, et tu serais en tête de tendances avec #neuneu demain matin 😂
@Phiphi
Mais non!! Vous n’avez rien compris ! Il me tacle tout le temps … c’est juste qu’en fait j’ai fini par comprendre … entre l’amour et la haine … il n’y a qu’un pas … il est juste amoureux de moi et est maladroit dans sa façon de me le dire c’est tout 🥰
@cecile_aelita
Ah ! Je fais semblant d’être à la masse, et la maîtresse elle va se sentir obligée de m’expliquer longtemps 🤗
Moi qui croyais que le chouchou c’était forcément un bon élève 🤭
@Phiphi
Pour la dernière phrase : c’est une sacrée légende ça lol! Et je ne suis pas la seule comme ça ^^.
@cecile_aelita
Je n’ai qu’une référence… Je suis né la même année que le Petit Nicolas 🤷♂️
@Phiphi
😉
@cecile_aelita
C'est surtout dramatique pour les maris qui ont déshabillé leur femme avec ce genre d'application, et qui ce sont rendu compte que ça ne correspondait pas du tout a la réalité !
C'est surtout dramatique, car ces applications vont être utilisées par les femmes sur des sites de rencontre pour tromper le chaland.
@Adodane
Je pense que vous n’avez pas dû (voulu?) comprendre mon message …
La personne qui fait ça le fait dans un but nuisible … donc soit il connaît le corps de la femme en question et ne vous inquiétiez pas qu’il s’en fou complément que ce ne soit pas réaliste vu que le but ça va être de diffuser sur internet pour tous les mecs … soit c’est même pas le mec de la fille en question et donc son corps nue il ne le connaît même pas … pour y avoir été confronté … et à partir d’un simple selfie … chemisier jupe collant … bref la photo banale à mourir … se retrouver sur un groupe de rencontre en lingerie (string sous tif porte jarretelles … la totale…) c’est pas super plaisant … surtout que le côté flippant de la chose … c’est que c’est quand même assez réaliste … et même quelqu’un qui m’aurait déjà vu dans cette tenue pourrait s’y laisser convaincre 😔.
@cecile_aelita
Ce qui serait amusant c’est que maintenant la tendance soit aux personnes qui échange des photos habillées et non à poile. L’appareille faisant le déshabillage une fois la photo ouverte.
Et ce qui m’amuserait le plus c’est de voir comment un outils de ce genre déshabille la gente masculine. Est-ce que tous le monde ressemblerait à un Roco Siffredi ou plutôt à un Dany De Vito ? Quoique pour ce dernier je n’ai jamais vu de photo de lui nue.
Qui a des photos à échanger pour que l’on fasse des tests ? 😅
@gwen
« Ce qui serait amusant »
« Et ce qui m’amuserait »
J’avoue que dans mon cas je n’avais pas trouvé ça amusant.
@cecile_aelita
Le problème avec toi, si je comprends bien, ce n’est pas que l’on ait fait des photos de nue avec ta tête dessus mais clairement que tu ait été au courant de la chose, donc, que ces photos aient circulé. Faire des conneries pour soi, c’est une chose, les diffuser rentre dans un cadre malsain.
@gwen
Exactement ! Ah mais la personne qui veut s’amuser à faire un filtre pour se voir soit même nue … pourquoi pas (même si le plus simple c’est peut être juste de se déshabiller lol). Mais ça devient gênant c’est quand la personne utilise des photos qui ne sont pas à soi 😐
Être sur ne signifie pas vérifier chaque fonction d’une app. Cela s’appelle de la censure, tout en précisant que je suis pour dans des cas comme celui-ci!
Ah le rêve des anciens ados...
@max intosh
Ados mecs alors ! Parce que quand j’étais ados … je ne rêvais pas que des mecs puissent faire des photos de moi à poil en 2 clics.
@cecile_aelita
🤦♂️
C’est rêver D’AUTRES personnes à poil. Pas de soi-même ! 😁
Et des filles peuvent aussi rêver de voir d’autres filles à poil vous savez.
@bouh
« 🤦C’est rêver D’AUTRES personnes à poil. Pas de soi-même ! 😁 »
J’avais compris merci 🤦♀️!
Ça reste quand même inadmissible de matter une personne nue sans son consentement je trouve.
@cecile_aelita
C’est un autre sujet. Toujours est-il que ce n’est pas réservé qu’aux mecs. Des filles aussi ont ces envies. Vous êtes une fille pourtant. Peut-être pas vous mais vous devriez le comprendre.
@bouh
Je serais curieuse de voir la proportion entre mecs et filles qui utilisent ce genre dapplis…
@bouh
Si, c’est quasiment réservé aux mecs, pour les raisons que j’évoquais plus haut. Le corps de la femme a quelque chose de magique et de particulier.
Et c’est la raison pour laquelle le harcèlement à la photo de nu se fait toujours dans ce sens là.
Homme et femme sont très différents et très inégaux sur ce plan là, on a peut-être tendance à l’oublier avec la progression vers l’égalité.
Qui peut être sociale mais sans oublier les positions de chacun sur le plan affectif ou sexuel.
@bozzo
C’est bien la première fois qu’on me dit que mon corps est magique 😅
Pages