Trustworthy AI a été créé ce mois-ci par Paulo Quaresma et Vítor Nogueira, professeurs au département d'informatique de l'université d'Évora(UÉ), en collaboration avec Jianbiao Dai, de l'université de São José, à Macao, une région semi-autonome de Chine.

"Nous n'avons pas l'intention, et nous ne pensons pas qu'il soit possible, souhaitable ou avantageux de remplacer les professionnels de la santé de quelque manière que ce soit", mais il s'agira d'un "outil d'aide à la décision", a déclaré Paulo Quaresma à Lusa.

Selon le professeur et partenaire de l'entreprise, le système d'IA développé par Trustworthy AI "aura la capacité d'expliquer [aux professionnels de la santé] pourquoi une proposition diagnostique ou thérapeutique particulière" a été faite pour un patient.

Le système d'IA analysera "les symptômes, les antécédents médicaux, le contexte et toutes les caractéristiques" du patient et expliquera ensuite aux médecins ou aux infirmières, "avec des niveaux de confiance, pourquoi il fait cette suggestion", a-t-il déclaré.

Paulo Quaresma a souligné que la solution aura "un historique d'apprentissage avec de nombreuses situations", de sorte qu'"elle peut même alerter le professionnel de la santé sur des situations qu'il ne prend peut-être pas en compte à l'heure actuelle".

Avec ce système, "il s'agit clairement de gagner du temps et de contribuer à l'amélioration des services de santé", a-t-il ajouté.

Selon le fonctionnaire, le système, qui peut être utilisé pour aider les professionnels dans les hôpitaux, les centres de santé et les maisons de retraite, est basé sur des méthodologies d'IA vérifiables, explicables et éthiques afin de lui conférer "un degré de confiance plus élevé".

En d'autres termes, il aura "la capacité, d'une part, de commencer par expliquer exactement pourquoi il est parvenu à une réponse particulière" et d'autre part, d'être auditable afin que "quelqu'un d'extérieur puisse, avec autorisation, effectuer un audit pour comprendre et identifier exactement l'ensemble du processus", a-t-il expliqué.

Déjà installée dans un espace du parc scientifique et technologique de l'Alentejo(PACT), Trustworthy AI travaille actuellement sur des demandes de financement de l'UE dans le cadre du programme régional Alentejo 2030 et de soutien à Macao.

Le professeur et partenaire a souligné que l'entreprise a l'intention de développer un projet pilote en Alentejo et un autre à Macao au cours de l'année prochaine pour tester et évaluer la solution, de sorte que d'ici la fin de 2026, elle puisse être étendue à d'autres endroits.