Cette semaine, nous parlons de deux figures cl\u00e9s du monde de l'IA, Ilya Sutskever et Geoffrey Hinton, r\u00e9cent laur\u00e9at du prix Nobel de physique. Tous deux se sont fix\u00e9 un objectif : mettre en garde contre les dangers de l'IA et tenter de faire quelque chose de positif pour que l'intelligence artificielle soit r\u00e9ellement utilis\u00e9e pour le bien de l'humanit\u00e9 et non contre nous.<\/p>\n\n\n\n
Safe Superintelligence, fond\u00e9e par Ilya Sutskever apr\u00e8s avoir quitt\u00e9 OpenAI pour des raisons de s\u00e9curit\u00e9, a atteint une valeur de 32 milliards de dollars. L'entreprise se consacre exclusivement au d\u00e9veloppement d'une \u201csuperintelligence s\u00fbre\u201d sans pression commerciale imm\u00e9diate. M. Sutskever a pris la direction de l'entreprise apr\u00e8s que son cofondateur, Daniel Gross, a opt\u00e9 pour Meta parce qu'il y trouvait une montagne d'argent, et que la s\u00e9curit\u00e9 de l'IA a imm\u00e9diatement \u00e9t\u00e9 rel\u00e9gu\u00e9e au second plan... La startup repr\u00e9sente une autre approche du d\u00e9veloppement de l'IA, qui donne la priorit\u00e9 \u00e0 la s\u00e9curit\u00e9 plut\u00f4t qu'\u00e0 la rapidit\u00e9 de mise sur le march\u00e9, dans le but d'\u00e9viter les probl\u00e8mes d'alignement qui affligent les syst\u00e8mes actuels\u201c. Une valorisation aussi \u00e9lev\u00e9e pour une start-up qui vise \u00e0 aller \u201dlentement\" quand tout le monde court (vers o\u00f9 ?) n'est due qu'au fait que le PDG est Ilya Sutskever, mais pourquoi est-il un si grand nom ?<\/p>\n\n\n\n