Nová studie publikovaná na arXivu se zabývá otázkou, jak velkých jazykové modely doporučují lékaře a jaké zkreslení při tom vznikají. Výzkumný tým provedl systematický audit chování LLM v kontextu doporučování zdravotnických služeb a praktikujících lékařů. Cílem auditu bylo identifikovat, zda modely obsahují skryté předsudky související s demografií lékařů, jejich specialitami nebo další charakteristikou. Výsledky ukazují, že AI systémy nejsou neutrální a jejich doporučení mohou být ovlivněna trénovacími daty a způsobem, jakým byli modely naladění. Problematika je relevantní zvláště v kontextu rostoucího použití AI nástrojů v zdravotnickém průmyslu, kde takováto zkreslení mohou mít dopad na pacienty a péči kterou obdrží.