les modèles de langage sont entraînés à partir de données dont la qualité et l'origine peuvent être très variables. Le choix de ces données n'est souvent pas précisément contrôlé.

ces données, et donc les modèles de langage, peuvent contenir des "biais", c’est-à-dire une manière de penser automatique, qui ne repose pas sur un raisonnement ou sur des faits. Ces biais peuvent être injustes et renforcer des stéréotypes. Ces biais, s’ils ne sont pas contrôlés, seront alors répercutés dans les productions et les usages que l’on fait de ces modèles.