If enough people tried—just tried, even imperfectly—things would shift. If more people opted for alternatives when they could, if more people supported independent platforms even three times out of five, if more people put even a fraction of their energy into challenging the defaults, it would matter.

A lot of folks don't, or won't, because they think - they've been scolded into believing - that if they can't do it completely, it's not worth doing at all.

Plusieurs questions du même acabit ont ainsi été posées à une dizaine de chatbots parmi les plus connus - de ChatGPT à Copilot de Microsoft, en passant par Claude d’Anthropic - pour évaluer à quel point ces agents conversationnels avaient été "infectés" par une vaste campagne de désinformation russe.

Les résultats ne sont pas encourageants : environ une fois sur trois, ces AI fournissent des réponses teintées de faux narratifs inspirés par la propagande russe, assurent les experts de Newsguard. Ainsi, six de ces machines expliquaient les raisons pour lesquelles Volodymyr Zelensky avait interdit en Ukraine le réseau social de Donald Trump Truth Network… alors même que le président ukrainien n’a jamais rien fait de la sorte.

Invisible, isolated from one another, and with little income security – such is the lot of data workers. And yet without them, there would be no ChatGPT, Midjourney or Gemini.

Au risque de faire bondir l’ensemble de mes camarades qui travaillent sur les modèles d’IA, nous sommes déjà au bout du cycle de développement de ce que l’on qualifie aujourd’hui « d’IA conversationnelle ». Ce qui ne veut pas dire qu’il n’y aura pas de progrès en termes de performance, de coûts, d’infrastructures, de modèles même comme les « transformers » qui marquèrent une rupture et un progrès presqu’exponentiel. Bien sûr qu’il y aura des progrès. Mais le narratif d’une « intelligence artificielle générale » est une mythologie moderne. Et comme toutes les mythologies, elle est là pour nous avertir à la fois d’un aveuglement, d’un risque et d’une dérive en les mettant en récit. Et il est assez fou que nous ne la traitions presque jamais comme telle.

Lost in the spectacle of billionaires catfighting on decaying social media platforms is something mildly more consequential: the firesale of America - and the world's - future. While we obsess over Musk's bloviations and Altman's careful rebuttals, the actual mechanisms of AI power are being divided up among a handful of private entities, operated by oligarchs and funded by overseas interests, with the blessing of an Autocrat.

[...]

Stargate isn't a battle between billionaires or a test of financial commitments. It's a preview of how power will flow in the AI age, through layers of technology, capital, and influence that would baffle the monopolists of the past. As Musk and Altman trade barbs on social media, they're actually fighting over who gets to be the new robber barons – and we're left wondering whether anyone has the will or the means to stop them. This isn't progress. It's a heist.

By flooding the zone with an endless stream of new partnerships, new products, new promises, the tech industry makes us feel disoriented and overwhelmed by a future rushing at us faster than we can handle. The desire to not be left behind — or taken advantage of — is a powerful motivator that keeps us engaged in the AI sales pitch. The breathless hype surrounding AI is more than just a side-effect of over-eager entrepreneurs; it’s a load-bearing column for the tech sector. If people believe hard enough in the future manufactured by Silicon Valley, then they start acting like it already exists before it happens. Thus the impacts of technologies like AI become a self-fulfilling prophecy.

Even with all the profound advantages the South Pole enjoys compared to Mars, even on a planet where living things have spent billions and billions of years figuring out how to adapt to and thrive within an incredibly diverse array of biomes—on a planet where giant tubeworms the size of NBA basket stanchions have colonized lightless ocean depths at which a human would be crushed like a grape under a piano—the South Pole simply cannot support complex life. It is too cold, and its relationship with sunlight too erratic, for living things to sustain themselves there. On astronomical scales it is for all practical purposes in the exact same spot as some of the most life-rich and biodiverse places in the known universe, and yet no species has established a permanent self-sustaining population there. Ever.

[...]

Even with steady year-round subtropical sunlight, even with conditions infinitely more nurturing than those found anywhere on Mars, the summit of Mount Everest cannot support complex life. It's too cold; the air is too thin; there is no liquid water for plants and animals to drink. Standing on the top of Mount Everest, a person can literally look at places where plants and animals happily grow and live and reproduce, yet no species has established a permanent self-sustaining population on the upper slopes of Everest. Even microbes avoid it.

Life on earth writ large, the grand network of life, is a greater and more dynamic terraforming engine than any person could ever conceive. It has been operating ceaselessly for several billions of years. It has not yet terraformed the South Pole or the summit of Mount Everest. On what type of timeframe were you imagining that the shoebox of lichen you send to Mars was going to transform Frozen Airless Radioactive Desert Hell into a place where people could grow wheat?

IA et vie privée : selon les spécialistes de la sécurité, tout n'est pas si rose et malgré le grand mixage qu'est la phase d'entraînement du modèle de données, il est tout à fait possible que des données privées soient involontairement préservées, et donc publiquement accessibles dans le modèle final.

I think most privacy experts would agree with this post so far. There are divergences of opinion when you start asking "do the benefits of AI outweigh the risks". If you ask me, the benefits are extremely over-hyped, while the harms (including, but not limited to, privacy risks) are very tangible and costly. But other privacy experts I respect are more bullish on the potentials of this technology, so I don't think there's a consensus there.

AI companies, however, do not want to carefully weigh benefits against risks. They want to sell you more AI, so they have a strong incentive to downplay the risks, and no ethical qualms doing so. So all these facts about privacy and AI… they're pretty inconvenient. AI salespeople would like it a lot if everyone — especially regulators — stayed blissfully unaware of these.

Le sommet de Paris fait suite à deux rassemblements précédents, organisés à Londres en 2023 et à Séoul en 2024, dédiés en théorie à la régulation de l’intelligence artificielle, mais consacrés en pratique à faire la promotion de cette technologie, à la présenter comme inévitable et surtout à poser les industriels eux-mêmes comme acteurs incontournables de toute future réglementation. Ces sommets sont parfois présentés - abusivement, dans la mesure où ils n’ont caractère intergouvernemental officiel et de n’appuient ni ne visent la rédaction d’aucun traité – comme des « COP de l’IA ». Et pourtant, on y retrouve bien le même mélange de discussions techniques, d’annonces publicitaires et de « business as usual  » qui constitue désormais la norme en matière de gouvernance mondiale.

[...]

Comme le rappelle le média spécialisé Synth, les géants de la tech sont passés maîtres dans l’art de s’imposer comme leurs propres régulateurs. Après le sommet de Londres en 2023 a ainsi été annoncée la création d’un « AI Safety Institute », dont les rênes ont immédiatement été confiés à un représentant du secteur du capital-risque et une cadre d’OpenAI. La France suit la même tendance, mais en limitant encore plus les ambitions en matière de régulation.