Limits to Control Workshop
Atelier de recherche en présentiel, à l’initiative des participants, sur les limites théoriques du contrôle de l’IA. Accueilli par HΩ à leur demande.
Visiter le site ↗ Lire la déclaration ↗À propos de l’atelier
Le Limits to Control Workshop a réuni des chercheurs pour cartographier les limites du contrôle de l’IA, défini comme la capacité fiable de contraindre un système à des résultats voulus via des mesures techniques et institutionnelles. Le programme combinait présentations, discussions au tableau et résolution collaborative de problèmes afin de clarifier les directions de recherche viables et les résultats d’impossibilité.
En bref
Présentations, discussions au tableau et résolution collaborative de problèmes.
Théorie fondamentale, mécanismes de contrôle et conditions de stabilité.
Une vision partagée et un agenda de recherche; articles à venir.
Accueilli à la demande des participants; organisé par Orpheus Lummis, Remmelt Ellen et Thibaud Veron.
Actes
Les publications sont en cours. Pour l’instant :
Note : la déclaration reflète les points de vue des participants.
- Déclaration de l’atelier
- Prépublication de Richard Everheart, “On the Boundaries of Formal Intelligence”
- Essai de Remmelt Ellen, “Deconfusing AI and Evolution”
Participants
- Prof. Roman Yampolskiy
- Dr. Anders Sandberg
- Thibaud Veron
- Aybars Kocoglu
- Forrest Landry
- Richard Everheart
- Remmelt Ellen
- Will Petillo
Lectures associées
Articles
- On the Controllability of Artificial Intelligence: An Analysis of Limitations, par Roman Yampolskiy
- AI: Unexplainable, Unpredictable, Uncontrollable, par Roman Yampolskiy
- Impossibility Results in AI, par Roman Yampolskiy
- On the Boundaries of Formal Intelligence, par Richard Everheart
- Deconfusing AI and Evolution, par Remmelt Ellen
- Article à venir sur les limites du contrôle par Anders Sandberg, Aybars Kocoglu, Thibaud Veron
Essais
- Lenses of Control, par Will Petillo
- The Control Problem: Unsolved or Unsolvable?, par Remmelt Ellen
- Control as a Causative Feedback Process, par Forrest Landry
- An Exploration of AGI Uncontainability, par Forrest Landry
- On Error Detection, par Forrest Landry
Équipe d’organisation
Cet événement a été accueilli par HΩ à la demande des participants, et organisé par :
- Orpheus Lummis (HΩ)
- Remmelt Ellen
- Thibaud Veron
Contact
Pour toute question, contactez Orpheus à o@horizonomega.org.