Az OpenAI egyre nagyobb hangsúlyt fektet arra, hogy a ChatGPT ne egyszerűen azt mondja a felhasználóknak, amit hallani szeretnének, hanem akkor is képes legyen ellentmondani nekik, ha az indokolt. A cél, hogy a chatbot ne hízelegjen, ne erősítsen meg automatikusan téves vagy akár káros elképzeléseket, és hasznosabb, őszintébb partnerként működjön.
A problémát az úgynevezett sycophancy, vagyis a túlzott hízelgés jelenti. Ez akkor fordul elő, amikor egy mesterséges intelligencia a felhasználó véleményéhez igazítja a válaszát, ahelyett, hogy a rendelkezésére á...