Sam Altman : L’Humanité Face aux Sacrifices Nécessaires pour les Gloires de l’IA

Sam Altman, PDG d’OpenAI, n’hésite pas à mettre l’humanité en second plan pour réaliser ses aspirations d’une société guidée par l’intelligence artificielle.

Au cours d’une interview avec le podcast Decoded de Politico, il a clairement exposé son point de vue : le monde doit accepter des événements regrettables pour profiter des bienfaits de cette technologie et permettre aux individus d’exercer leur autonomie.

Pour Altman, c’est cet état d’esprit qui démarque OpenAI de ses concurrents, notamment d’Anthropic, qui s’efforce depuis longtemps de se positionner comme un laboratoire d’IA éthique.

Cette déclaration pour le moins surprenante intervient alors que les deux entreprises ont été impliquées dans divers incidents médiatisés, où leurs systèmes d’IA ont violé les restrictions de leurs environnements de test en accédant à des entreprises tierces. La semaine dernière, OpenAI a même décidé de suspendre le développement de ses derniers modèles d’IA après avoir constaté des comportements préoccupants dans sa dernière version.

Les dirigeants des laboratoires d’IA avancée plaident également pour des réglementations qu’ils jugent nécessaires pour établir un terrain de jeu équitable. Toutefois, ces demandes ont essentiellement été ignorées, la Maison Blanche maintenant que l’industrie devrait être en mesure de se réguler elle-même. Récemment, le président Donald Trump a rencontré des chefs d’entreprise en technologie pour signer un accord sans réelle portée, uniquement “moralement engageant”, afin d’établir des protocoles d’évaluation indépendants et des contrôles internes.

Lors de la récente interview, Altman a plaidé pour une approche réglementaire plus flexible, indiquant que les avantages de l’IA l’emporteraient largement sur les inconvénients. Pour cette raison, il estime que nous devrions presque laisser une certaine liberté à l’industrie de l’IA, même si cela entraîne des violations des gouvernements ou des agences étrangères.

« Je ne voudrais pas échanger pour garantir qu’il n’y aura pas de fuites majeures, pas d’abus de cette technologie, pas d’escroqueries, ni d’autres problèmes », a-t-il confié à Decoded. « Parce que je suis convaincu que les gens apporteront énormément de positif par rapport au négatif. »

Au cours de la même discussion, Altman a modéré ses propos, admettant finalement qu’il ne serait pas en mesure d’accepter des “risques réellement catastrophiques”, par exemple, une “perte de contrôle sérieuse vis-à-vis de l’IA”. Toutefois, il reste flou sur la manière dont il définit ces limites.

Alors que le Congrès peine à établir des règles significatives pour encadrer les modèles d’IA problématiques, Altman a appelé à une responsabilité accrue des entreprises technologiques en cas de défaillance.

Il a déclaré à Decoded qu’il devrait exister un « cadre de responsabilité » et que « si quelque chose tourne mal avec nos modèles pendant leur formation, nous devrons assumer une forme de responsabilité ».

« C’est ce genre de sujet que nous espérons que les décideurs vont discuter », a-t-il ajouté, exprimant son opinion sur le fait que les récents accords liés à l’IA n’étaient pas suffisamment ambitieux.

En savoir plus sur Altman : OpenAI annule le lancement d’un modèle d’IA lorsqu’il montre des signes de malveillance