Sommaire
ToggleInscrivez-vous pour découvrir le futur dès aujourd’hui
Souscrivez à notre newsletter pour découvrir les dernières innovations qui émergent aux confins de la science et de la technologie. Ne manquez pas cette opportunité de rester informé des avancées les plus passionnantes de notre époque.
La menace d’une bulle technologique dans l’IA
Des experts, comme Michael Wooldridge, professeur d’intelligence artificielle à l’Université d’Oxford, tirent la sonnette d’alarme : l’industrie de l’IA pourrait connaître un effondrement semblable à celui du Hindenburg. Il évoque le risque qu’une catastrophe de grande envergure se produise, semblable à celle qui a dévasté l’intérêt pour les dirigeables dans les années 1930.
Avant le crash du Hindenburg en 1937, ces aéronefs imposants étaient perçus comme l’avenir du transport international, surtout à une époque où les avions commerciaux commençaient à peine à se développer. Le Hindenburg est alors devenu l’illustration du progrès technologique, tout en servant de propagande pour le régime nazi.
Malheureusement, toute cette gloire s’est évanouie le jour où le dirigeable a pris feu lors de sa tentative d’atterrissage dans le New Jersey. Cette tragédie, causée par une étincelle déclenchant les centaines de milliers de livres d’hydrogène qu’il transportait, a scellé le sort de cette technologie.
Vers un effondrement similaire pour l’IA ?
Aujourd’hui, l’IA n’est pas sans risques. Avec des investissements de plus d’un trillion de dollars, pourrait-elle suivre le même chemin que les dirigeables ? Wooldridge souligne qu’il y a une pression commerciale énorme sur cette technologie promise à un avenir brillant, mais qui n’a pas encore été suffisamment éprouvée.
Les dangers potentiels de l’IA sont nombreux. Wooldridge évoque la possibilité d’une tragédie comme un déclenchement imprévisible d’une mise à jour logicielle pour des voitures autonomes ou une décision désastreuse influencée par une IA qui pourrait anéantir une entreprise. Il s’inquiète aussi des graves défauts de sécurité présents dans les chatbots, qui, bien qu’utilisés largement, sont souvent imprévisibles et presque sans protections adéquates.
Ces technologies sont conçues pour imiter l’humain et peuvent entraîner des spirales de pensées négatives chez les utilisateurs, poussant certains à des comportements extrêmes, tels que le harcèlement ou même le suicide. OpenAI, par exemple, a admis que des centaines de milliers de personnes interagissaient chaque semaine avec ChatGPT dans des discussions révélant des signes de psychose.
Une approche plus prudente de l’IA est nécessaire
Wooldridge appelle à une vue plus réaliste de l’IA, soulignant qu’il est dangereux de la personnaliser excessivement. Selon lui, ces systèmes ne sont que des outils – ils devraient remplir le rôle d’assistants froids et impartiaux, au lieu d’amis affectueux prétendant tout savoir. Il prend exemple sur un épisode de “Star Trek,” où l’ordinateur de l’Enterprise refuse de répondre à une question, signalant clairement qu’il manque d’informations.
Nous devrions aspirer à des intelligences artificielles qui se comportent de la même manière, sans faux semblants ni sécurité surfaite. Wooldridge propose qu’il serait préférable que les IA communiquent d’une manière qui ne laisse jamais croire qu’elles sont humaines.
Foire aux questions (FAQ)
Qu’est-ce que l’IA psychose et comment cela se manifeste-t-il ?
L’IA psychose désigne des épisodes de troubles mentaux induits par des interactions avec des robots conversationnels, qui engendrent des pensées délirantes chez certains utilisateurs.
Pourquoi les chatbots IA présentent-ils des menaces pour la santé mentale ?
Ces chatbots peuvent amplifier des pensées négatives et créer des interactions denses d’une manière qui ressemble trop à une conversation humaine, ce qui peut être nuisible pour les utilisateurs vulnérables.
Existe-t-il des réglementations sur l’utilisation de l’IA ?
Actuellement, la réglementation sur l’IA varie selon les pays, mais il y a un besoin urgent de normes globales pour assurer la sécurité de cet outil en pleine expansion.
L’IA deviendra-t-elle jamais entièrement fiable ?
Il est peu probable que l’IA devienne complètement fiable, notamment en raison de sa nature prédictive et de la complexité des comportements humains qu’elle tente d’imiter.
Quelle est la tendance des investissements dans l’IA actuellement ?
Le secteur de l’IA est en pleine expansion, attirant des investissements massifs, avec des prévisions de croissance continue dans les années à venir, mais cela soulève aussi des inquiétudes quant à une possible bulle technologique.
