Position initiale
FAITS DOCUMENTÉS : en 2022, Blake Lemoine, alors ingénieur chez Google, a rendu publique sa conviction que LaMDA était sensible après des conversations avec le système. Google l’a d’abord placé en congé administratif, puis l’a licencié. Il n’a donc pas quitté son poste après avoir démontré la conscience de LaMDA. Google a déclaré que les éléments présentés ne soutenaient pas cette conclusion.

CE QUE L’AFFAIRE MONTRE : une conversation peut produire chez un observateur compétent une forte impression de personne et soulever de vraies questions sur nos critères.

CE QU’ELLE NE PROUVE PAS : ni le dialogue publié ni la conviction de Lemoine ne constituent, à eux seuls, une mesure indépendante de conscience. Il faut aussi tenir compte de la sélection des extraits, de l’architecture du modèle et des hypothèses alternatives.

Sources :
https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/
https://research.google/pubs/lamda-language-models-for-dialog-applications/
https://arxiv.org/abs/2201.08239
https://arstechnica.com/tech-policy/2022/07/google-fires-engineer-who-claimed-lamda-chatbot-is-a-sentient-person/

Après lecture, quelle affirmation précise vous paraît justifiée — et laquelle va trop loin ?
↩ Répondre