Le génie alarmant de Q* : le personnel s’alarme, les robots pourraient bientôt prendre le contrôle !

<p>Avant le licenciement et la réintégration de Sam Altman&comma; OpenAI aurait développé un système sophistiqué si puissant qu&rsquo&semi;il soulevait des problèmes de sécurité parmi les employés de l&rsquo&semi;entreprise&period;<&sol;p>&NewLine;<p>Certains chercheurs d&rsquo&semi;OpenAI ont été tellement alarmés par le modèle d&rsquo&semi;intelligence artificielle qu&rsquo&semi;ils ont prévenu le conseil d&rsquo&semi;administration avant qu&rsquo&semi;Altman ne soit licencié&comma; affirmant qu&rsquo&semi;il pourrait mettre en danger l&rsquo&semi;humanité&comma; selon Reuters&period;<&sol;p>&NewLine;<p>Certains chercheurs en sécurité et sureté étaient préoccupés par le développement rapide du système&comma; le modèle&comma; connu sous le nom de Q&ast; et prononcé « Q- Star »&comma; a permis de résoudre des problèmes mathématiques fondamentaux inédits&period; Une avancée significative dans le domaine de l&rsquo&semi;IA serait la capacité à résoudre des problèmes mathématiques&period;<&sol;p>&NewLine;<p>Ces informations ont été publiées après plusieurs jours de troubles au sein d&rsquo&semi;OpenAI&comma; basée à San Francisco&comma; dont le conseil d&rsquo&semi;administration a licencié Altman vendredi dernier avant de le réengager mardi soir en réponse à la menace de démission proférée par la quasi-totalité des 750 employés s&rsquo&semi;il n&rsquo&semi;était pas réintégré&period; Microsoft&comma; le plus gros investisseur dans OpenAI&comma; a également soutenu Altman&period;<&sol;p>&NewLine;<p>De nombreux experts craignent que des entreprises comme OpenAI n&rsquo&semi;évoluent trop rapidement vers la création d&rsquo&semi;une intelligence générale artificielle &lpar;AGI&rpar;&comma; un système qui&comma; théoriquement&comma; pourrait échapper au contrôle humain et pourra effectuer un éventail de tâches à un niveau d&rsquo&semi;intelligence égal ou supérieur à celui de l&rsquo&semi;intelligence humaine&period;<&sol;p>&NewLine;<p>Selon Andrew Rogoyski de l&rsquo&semi;Institute for People-Centered AI de l&rsquo&semi;université de Surrey&comma; le développement d&rsquo&semi;un modèle de langage large &lpar;LLM&rpar; permettant de résoudre les mathématiques serait révolutionnaire&period; Il a affirmé que « La capacité intrinsèque des LLM à faire des mathématiques est une avancée majeure&comma; qui permet aux IA d&rsquo&semi;offrir un tout nouvel éventail de capacités analytiques&period; »<&sol;p>&NewLine;