>>

Séminaire NEURO : Giovanni Sileno

Titre du séminaire et orateur

"Normware : motivation et enjeux.
"Normware": motivation and challenges.

Giovanni Sileno, Télécom ParisTech / Univ Paris Dauphine.

Date et lieu

Lundi 14 mai 2018, 10h00.

Université de Cergy-Pontoise, site de St-Martin 1, salle 570 (locaux ETIS, 5ème étage).

Résumé

Dans un contexte d'expansion des computations distribuées (services distribués, IoT, systèmes autonomes, blockchain/smart contracts) dans toute activité humaine, le rôle social des systèmes computationnels devient de plus en plus délicat. Il ne s'agit plus d’implémenter une fonction qui peut être bien spécifiée et donc optimisée ; ces systèmes se retrouvent à opérer dans une écologie d'interactions possibles, qui varie avec le temps. Décider de cibler des rôles sociaux, plutôt que de formuler des objectifs plus ou moins hors contexte, est justifié d'un point de vue cognitif par l'observation que les humains sont meilleurs dans le raisonnement déontique que dans le raisonnement par la preuve (evidential reasoning) et acquièrent cette capacité plus tôt dans le temps. Une solution générale au problème d'acquisition de rôles sociaux - demandant que l'agent soit intégré dans le système sociale de façon très similaire à un humain - est pour l'instant une condition non réalisable. Toutefois un premier pas est possible, en utilisant des exigences collectives comme celles que les communautés matérialisent dans les institutions, et en appliquant en ingénierie les leçons qui peuvent y être apprises. Dans cette présentation je discuterai de deux sujets liés à cet objectif. Premièrement, je présenterai mes contributions sur la représentation des normes et leur intégration dans un cadre d'opérationnalisation et d'adaptation du comportement, pour un agent individuel ou un système d'agents. Dans la deuxième partie de cette présentation, je parlerai des mes efforts de réduire le fossé entre les aspects perceptifs, émotionnels et plus en générale cognitives, et l’infrastructure symbolique sous-jacent la première partie.

Abstract

In a context of expansion of distributed computations (distributed services, IoT, autonomous systems, blockchain / smart contracts) in all human activities, the social role of computational systems is becoming more and more delicate. It is no longer a matter of implementing a function that can be well specified and therefore optimized; we need to be aware that these systems operate in an ecology of possible interactions, which varies with time. Deciding to target social roles, rather than formulating more or less out-of-context goals, is cognitively supported by the observation that humans perform better in deontic reasoning than evidential reasoning and acquire this ability earlier in time. Despite the general solution to the problem of acquiring social roles - demanding that the agent is embedded into the social system in a way very similar to humans - is now a not realizable condition, a first step is however achievable by using collective requirements, like those that communities reify in institutions, and applying the lessons that can be learned there in engineering. In this presentation I will discuss two topics related to this objective. First, I will present my contributions on the representation of norms and their integration in the operationalization and the adaptation of behaviour, for an individual agent or a system of agents. In the second part of the presentation, I will talk about my efforts to reduce the gap between the perceptual, emotional and more generally cognitive aspects and mostly symbolic infrastructure underlying the first part.

Bio

De formation ingénieur électronique (Politecnico di Torino, ENSIMAG/ENSERG, DEA en systèmes intégrés), après plusieurs expériences professionnelles en tant que consultant (Business Analyst) et développeur logiciel, j'ai effectué de 2011 à 2016 un Ph.D. en AI & Law à l'Université d'Amsterdam–sous la supervision de Tom van Engers et Alexander Boer (Leibniz Center for Law). Ma thèse, « Aligning Law and Action », essaie de formuler d'un point de vue computationnel une approche constructiviste de la connaissance—dans le sens d'une contextualisation et d'une adaptation continue à l'environnement (physique et normatif). Après mon doctorat, j'ai voulu me focaliser sur le problème de l’interprétation. Depuis 2016, je suis post-doc à Télécom ParisTech et Paris Dauphine, travaillant en collaboration avec Isabelle Bloch, Jean-Louis Dessalles et Jamal Atif. Ce projet m'a permis d'investiguer les espaces conceptuels comme niveau cognitif intermédiaire entre les traitements symboliques et numériques, la théorie cognitive de simplicité – simplicity theory (ST) – pour le calcul de pertinence, et le contraste comme opération fondamentale sous-jacente à la prédication. Dans ce cadre, j'ai commencé à élaborer des méthodes algorithmiques concernant la génération d’interprétations (d'images, de causes, d'actions) pertinentes.

Retour