iOS 18 : Apple aurait repris ses négociations avec OpenAI
Les discussions entre Apple et OpenAI ont repris affirme Bloomberg, dans le cadre d'une recherche de technologies d'IA pour muscler iOS 18. Qui d'OpenAI, de Google ou d'autres acteurs sera choisi par Apple pour doter iOS 18 de fonctions associées à l'intelligence artificielle ?
Bloomberg indique que les échanges ont été relancés avec OpenAI après avoir été mis en sourdine plus tôt dans l'année. Apple continuerait néanmoins de parler du même sujet avec Google pour prendre éventuellement une licence de Gemini.
Il y a un peu plus d'un mois, Bloomberg révélait qu'Apple avait pris langue avec plusieurs fournisseurs de technologies d'IA pour accélérer l'intégration de nouvelles fonctions dans iOS 18, elle-même n'étant apparemment pas prête à y aller en solo, du moins pas dans l'immédiat. Tim Cook, en mars 2023, confirmait l'évidence, à savoir qu'Apple suit l'évolution de ces outils, mais il mettait en garde contre leur absence de maturité.
IA : Apple envisagerait d’inclure Gemini et non son propre modèle de langage dans iOS 18 🆕
Depuis, d'autres indiscrétions laissent entendre qu'Apple fera tourner des fonctions en local sur les iPhone plutôt que de requérir une connexion réseau à chaque fois et de dépendre de serveurs étrangers. Est-ce que toutes ces fonctions s'exécuteront de cette manière, est-ce que d'autres auront besoin d'une connexion vers Google ou OpenAI ? Tout ce sujet est encore baigné dans le flou et Apple continue en parallèle à développer ses propres compétences.
Apple présente un modèle bien plus rapide que CLIP pour identifier le contenu des images
Apple doit-elle céder aux sirènes des IA génératives ?
J’espère qu’ils vont intégrer un assistant AI sans vouloir en faire trop, en ajoutant des fonctions trop coûteuses en batterie. Dans mon quotidien, un Siri++ qui comprendrait correctement du premier coup et avec une formulation naturelle, ce serait très déjà très bien.
@Hertza Haeon
Whisper
@Mageekmomo
oui mais non
whisper comprend bien les mots, on peut imaginer qu'apple améliore ce point encore mais c'est surtout le contextuel qui est problématique avec siri
@Mageekmomo
Ça ne servirai pas grand chose; le problème n’étant pas de transcrire ce qu’on dit en texte, mais bien l’exécution de la requête
@Baptiste_nv18
Là le commentaire était sur la compréhension et la retranscription. Après on est d’accord que l’exécution laisse à désirer.
Comme je l’ai déjà écrit ici plusieurs fois, il est impossible de reproduire les performances de chatGPT 4 avec un modèle tournant en local.
C’est impossible physiquement, cela demanderait trop de RAM et de CPU, et c’est insoutenable financièrement, cela coûterait beaucoup trop cher.
À partir de là, il est obligatoire qu’Apple cherche à la fois à faire tourner un modèle propre plus petit de qualité inférieure, et à offrir une solution distante. Et comme ils ne sont pas au niveau de la concurrence, ils discutent avec elle.
Mais ils ne sont pas dans une position facile comme avec le moteur de recherche que leur fournit Google où ils peuvent être payés pour, car cette fois-ci ce sont eux qui doivent payer, et c’est probablement là que ça coince fortement, vu combien chatGPT est facturé en direct (20 $ par mois).
@hugome
C’est le retour de bâton pour Apple…
@vomito
Tout à fait, Apple a peut être loupé le virage pour le coup
@hugome
C’est quoi ton métier ? Tu avances des arguments sans justification. Une source peut être ?
@lldjandoll
Hier, j'ai essayé Llama 3 70b avec ma RTX 4080, mon 7950X, mes 4TB de SSD et mes 64GB de RAM, bah justement, ça ram, je dois être à 2 ou 3 tokens par seconde.
Donc, sur un iPhone c'est même pas la peine.
Un iPhone 13, il peut max encaisser du 2b, mais ça bouffe énormément de RAM.
@hugome
oui, est ce que google paierait pour avoir gemini en model par defaut sur mac et ios? c'est possible, et ca lui rapporterait des donnees en masse, je regrette qu'on ne saura un jour que le resultat des négociations, ce serait passionnant un documentaire pour voir comment toit cela se deroule en coulisses
@raoolito
Un documentaire sur ces tractations serait en effet excellent !
@raoolito
Google paie pour le moteur de recherche parce que derrière il y a des revenus publicitaires.
Derrière Gemini, il n’y a pas de revenus publicitaires aujourd’hui.
C’est toute la question de l’impact de l’IA sur Google et c’est franchement pas une question simple.
Par nature une requête IA de qualité coûte plus cher qu’une requête de moteur de recherche (cf NVIDIA qui explose en bourse) et par nature génère aussi moins de trafic sur des sites, puisque son but est de les éviter.
Peut-être un jour on aura un Gemini avec de la pub mais c’est pas le cas aujourd’hui, et je vois mal comment ça pourrait rapporter autant. Et Google n’a aucun intérêt à accélérer la transition.
Mon avis c’est plutôt que Google a intérêt à maintenir deux lignes de produits : une classique gratuite et une payante, comme OpenAI. Et qu’en tout cas ça sera la situation des années à venir
À partir de là on les voit mal faire une fleur à Apple.
Sur la valeur des données personnelles, tant que tu peux pas faire de la pub avec, ça vaut pas grand chose. Et on voit aussi mal Apple permettre à Google de les utiliser.
Surtout qu’ils ont déjà Android pour améliorer leur courbe d’expérience.
Enfin s’ils offrent gratuitement un truc qui leur coûtent de l’argent Apple et Google prennent le risque d’un procès d’OpenAI pour abus de position dominante
@hugome
Déjà c'est faux, tu as des petits modèles de 3 à 4go qui font parfaitement le travail. D'ailleurs la direction d'Apple est bien celle des modèles spécifiques de petites tailles. C'est une bonne chose, car plus performant.
Dernière chose, les développeurs d'Apple ont annoncé avoir une IA qui ridiculise GPT, donc il suffit d'attendre la WWDC ^_^
@lldjandoll
Tu dois avoir un souci avec ta 4080 et ta configuration. Tu utilises LMStudio ? https://lmstudio.ai/
@Gwynpl@ine
Non, il n’y a aucun petit modèle qui a les performances de Chatgpt 4, renseigne-toi.
(Sans parler du fait que certains modèles trichent car ils sont entraînés pour overfitter sur les jeux de tests disponibles publiquement)
@hugome
C’est vrai aujourd’hui, mais l’écart se resserre quand même avec certains modèles type llama 3 ou Mixtral 8X7B
@vicento
Et demain il se ragrandira avec chatgpt5.
Mistral 8x7B semble avoir besoin de 48 GB pour tourner, c’est pas rien.
Chatgpt 4 selon la rumeur tourne à plus de 500 TFlops, soit 250 fois un iPhone 15 Pro
@hugome
Ça me parrait évident
Une intégration de Whisper (qui tourne en local) ce serait deja un bon début 🤞🤞🤞
@Mageekmomo
certes il est meilleur que la transcription d'apple pour les enregistrements complexes etc, mais en local sur un iphone recent la transcription d'apple, pour améliorable qu'elle soit, n'est pas mauvaise pour autant.
(blague, hier j'ai ete tres decu par la qualite de ces retranscription, presque toute la journée, c'est le soir que g compris que le bluetooth etait reste allume et du coup le micro etait a deux metres de moi. d'ou des difficultees de transcription si je ne parlais pas assez fort)
@raoolito
Ce qui est beaucoup plus efficace avec Whisper c’est la conjugaison, la ponctuation et les noms propres que tu peux dicter. Il a une bien meilleure compréhension du contexte
@Mageekmomo
oui oui, c'est indeniable
@Mageekmomo
"Whisper (qui tourne en local)"
Beaucoup de monde parle de Whisper dans les commentaires or je ne sais pas ce que c’est ce logiciel. Il est accessible sur l’AppStore ? Car quand je cherche il y a bien une application Chinoise de ce nom mais surtout plein d’autres applications douteuses qui n’ont aucun rapport.
Donc, je trouve ça où s’il vous plaît. Merci.
@gwen
Bonjour.
Voici le lien vers le site du développeur :
https://goodsnooze.gumroad.com/l/macwhisper
J’ai acheté ce logiciel et je l’utilise souvent.
Il est est loin devant Siri pour des dictées à condition de ne pas avoir de vocabulaire trop spécifique.
J’ai testé Siri une fois et il était loin derrière une très très vieille version de Dragon Dictate (
@Oberon
Merci. Je vais aller voir ça car en effet la retranscription depuis un fichier audio m’intéresse beaucoup.
@gwen
C’est la technologie dite de « speech to text » d’OpenAI, qui retranscrit l’audio en texte et qui a d’excellentes performances. c’est ce qui est utilisé dans l’application ChatGPT pour retranscrire le texte prononcé à l’oral.
OpenAI utilise cette technologie, de façon assez maligne pour retranscrire de l’audio pur ou de l’audio provenant de vidéo pour alimenter ChatGPT (je raccourcis un peu mais c’est ça l’idée)
Ils ont mis à disposition Whisper (j’ai un doute s’ils l’ont mis en Open Source ou une autre licence) et on peut s’en servir avec des applications compatibles comme celle qui est mentionnée dans le commentaire au-dessus et qui est très bien.
Plus d’infos sur votre site préféré :
https://www.macg.co/logiciels/2023/11/transcription-audio-enorme-amelioration-de-performances-pour-whisper-sur-mac-140805
https://www.igen.fr/app-store/2023/05/lapplication-officielle-de-chatgpt...
@Mageekmomo
Merci pour les liens MacG. J’avais cherché sur l’app store de l’iPhone seulement.
« Ils ont mis à disposition Whisper (j’ai un doute s’ils l’ont mis en Open Source ou une autre licence) »
https://github.com/openai/whisper
License
"Whisper's code and model weights are released under the MIT License."
@Mageekmomo
Même mistral ce serait bien.
On peut retourner le problème comme on veut, si Apple s’appuie sur Open Ai ou Gemini je prendrai cela comme un énorme aveu d’échec de la part d’Apple. Aucun des autres Gafam n’a pas sa propre IA LLM. Un comble. On verra à la WWDC mais ça « m’inquiète » de voire qu’Apple n’est plus aussi pionnier qu’avant. Je suis l’actualité Tech en général et je trouve que la concurrence a une meilleure dynamique. Il serait peut être temps qu’Apple dissocie l’OS des services. Ainsi Safari, Mail et tous les autres services pourraient évoluer plus rapidement.
@Glop0606
pas forcement
apple s'occuperait des modeles en local et passerait la main pour les requêtes qui dépassent les capacités (ou proposerait a l'utilisateur de l'accepter ou pas)
apres tout maps aussi a pris son temps, ya pas urgence.
@raoolito
Oui pas forcément mais quand même, c’est dérangeant qu’Apple soit le seul Gafam sans IA générative LLM. Souvent est repris l’exemple de Maps mais nous sommes en 2024 et pas en 2007. Attention je ne dis pas Apple est foutu, ils sont nuls, juste si Apple ne devrait pas être plus moderne dans sa façon d’aborder la tech en 2024.
@Glop0606
ils sont en retard ok... après ya d'autres sujets ou ils sont en avance, donc bon...
@Glop0606
Après , Apple accumule des montagnes de cash.
Il peut être pertinent aussi de laisser la concurrence dépenser de sommes folles dans la R&D et l’innovation, voir ce qui marche, et ensuite envoyer la cavalerie.
Lors de la présentation du premier iPhone, je me rappelle que la presse spécialisée se moquer de l’iPhone, en disant que techniquement il était moins bon que ce qui était déjà proposé. Pourtant, de nos jours, c’est bien l’iPhone qui était en train de remporter la bataille. Windows sur les PC est encore largement devant mais de plus en plus, on entend dans le milieu professionnel que les Mac prennent du terrain.
si demain, Apple sort une IA générative sur ses appareils, même si elle est techniquement moins bonne que la concurrence elle aura sans doute plus d’impact que Gemini ou de méta dans le quotidien et la vision globale du consommateur lambda.
@Korell
Certes c’est la méthode d‘Apple mais est elle encore pertinente en 2024? Pour le milieu professionnel je vois au contraire une tendance inverse. Il y a 10 ans je trouvais Apple ultra représentait avec des iPads de partout et les IT qui adoraient les MacBook Air. En 2024 je trouve au contraire que c’est très classique avec des laptops HP, lenovo, Dell. Le prix doit certainement jouer un rôle.
@Glop0606
Pionnier 🤭 ça fait un moment que Apple ne l’est plus, aucune réelle nouveauté depuis un moment malheureusement ils pensaient que leurs utilisateurs resteraient bien sagement chez eux mais si le côté Chine est confirmé Apple a intérêt de vite bouger
@Glop0606
Quelle raison auriez-vous d'être inquiets ? Est-ce parce que vous êtes actionnaire ? Apple a connu son âge d'or, mais depuis quelques années, ils sont en déclin et peinent à suivre le rythme. Ils ont investi dans la micro gravure, et après ? Ils ne peuvent pas être partout à la fois, et les prochains gouvernements cherchent à brider la domination des GAFAM.
En tant qu'actionnaire, mes attentes envers eux ont depuis longtemps été revues à la baisse. Ce sur quoi je continue de fonder un espoir, c'est le développement de nouvelles technologies de santé, un domaine où je sais qu'ils investissent. Cependant, leurs compétences dans ce domaine laissent à désirer (comme en témoignent les valeurs peu fiables de la SpO2 sur leur montre). Ils ne représentent rien dans le domaine, ils n’ont rien inventé, ni même démocratisé aucun concept. Les montres sportives existaient déjà il y a bien des années.
Il serait aussi sage que leurs avancées dans ce domaine ne soient pas soumises à la privatisation, car la santé ne devrait pas être une marchandise.
@CtrlMaster
Inquiet est un grand mot mais Apple est une marque premium avec les prix qui vont avec donc si je paie plus c’est pour avoir aussi un meilleur produit ce qui est encore le cas. L‘IA est pour moi une révolution profonde de l’informatique et donc Apple se doit d’être leader.
@Glop0606
Dans ce cas je te souhaite toutes mes condoléances 😂
Apple est surtout le leader de l’enfumage :
https://www.lesnumeriques.com/telephone-portable/apple-broie-des-milliers-d-iphone-fonctionnels-plutot-que-de-les-reparer-ou-les-reconditionner-n221103.html
@Glop0606
"Apple est une marque premium"
Comment définis-tu une marque premium ? Parce que Apple ne s’est jamais présent comme ça sauf pour l’Apple Watch où ils se sont bien vautré.
@gwen
Une marque premium c'est une marque dont les prix de vente (et la marge) sont plus élevés que la moyenne du marché. Pas besoin d'avoir une déclaration de l'entreprise, suffit de jeter un coup d'oeil sur les prix de base et, plus encore, sur le prix des options pour constater qu'Apple correspond à cette définition.
Comment peux tu écrire qu'une montre qui fait 50% de part de marché s'est vautrée ? Ou alors tu fais référence au modèle en céramique. Là on n'est plus dans le premium mais dans le luxe. La différence entre les 2 c'est la notion d'exclusivité. Apple n'est pas une marque de luxe (même si un téléphone à 1500€ peut être considéré comme un luxe, tout est relatif)
@yod75
"Une marque premium c'est une marque dont les prix de vente (et la marge) sont plus élevés que la moyenne du marché. "
Vu les prix de la concurrence, Apple est donc loin d’être premium. Pleins de Samsung valent beaucoup plus qu’un iPhone.
Apple ne fait juste pas de téléphone d’entrée de gamme.
@gwen
« Apple ne fait pas d entrée de gamme »
C est le propre d une marque premium
D autres marques ont des téléphones chers : oui c est vrai. Mais ils ne font pas de volume avec ; sinon ils exploseraient les résultats financiers d Apple et ça se saurait
@gwen:
"Apple ne fait juste pas de téléphone d’entrée de gamme."
Euh, si, l'iPhone Se est une entrée de gamme, il est pas vendu à ce prix, mais si tu le compare à un Android de même prix, tu remarqueras à quel point il est en fait entrée de gamme, vendu à un prix milieu de gamme.
De même, les smartphones Samsung vendu plus cher ont deux caractéristiques: Soit c'est des téléphones qui embarquent une tout autre techno (pliable) soit genre le S24Ultra qui se vendra 30% moins cher sous les 6 mois...
Un S23Ultra (256 go) actuellement c'est 680... Soit moins cher que l'iPhone 13 de base avec 256Go.
On va dire que Samsung a durant 6 mois un seul modèle de téléphone non pliable qui régate avec les prix des iPhones. Sinon c'est quand même largement moins cher.
@ Glop0606
Tu fais référence à des boites dont le matériel ne représente qu'une très faible part du chiffre d'affaire, et encore moins des bénéfices. Apple tire l'essentiel de ses revenus de la vente de trucs physiques, pas de services digitaux ou de pub (seulement 20%). Pour Google et Meta, l'Ia générative est une question de vie ou de mort. Pour Microsoft et à moindre mesure pour Amazon c'est une opportunité. Pour Apple, c'est au mieux un plus produit, et encore cela reste à démontrer
@Glop0606
Et Meta AI?
Apple fait tourner Mistral 7B / sur iPhone via MLX. (Idem pour Llama 3 8B)
Et Mixtral 8x22B sur les grosses configurations Mac, mais c’est anecdotique tant ces configurations sont rares.
On peut avoir un équivalent GPT-3.5 en local.
Ensuite, reste à voir comment ça peut fonctionner pour se connecter à des services annexes.
Il n’est pas impossible qu’Apple fasse des partenariats avec ces entreprises à l’instar de ce qui est proposé pour les moteurs de recherche.
Je vois bien une option de iCloud+ qui permet d’accéder à ces moteurs. Ce serait cohérent.
"Llama 3 8B"
sur un 15 pro max alors, les anciennes versions ça risque d'être compliqué.
@Dylem
Sur iPhone 15 Pro, ils en sont à tenter le fine-tuning. 😅
https://x.com/awnihannun/status/1782436898285527229
@Florent Morin
Sur le 13 Pro Max, y'a des essais?
Pages