Голема промена во ChatGPT: OpenAI итно реагираше поради огромна грешка

Четботот „Чет џи-пи-ти“, базиран на вештачка интелигенција, наскоро ќе добие опција за родителски надзор, најави американската компанија OpenAI.

Новата функција ќе биде достапна во наредните месеци и ќе им овозможи на родителите да го поврзат својот профил со профилот на својот тинејџер. На тој начин, ќе може да се постават правила прилагодени на возраста на детето и да се следи како и за што децата го користат ChatGPT. Дополнително, системот ќе испраќа известувања до родителите ако препознае знаци дека детето поминува низ сериозни емоционални или психолошки тешкотии.

Оваа одлука е донесена откако родителите на шеснаесетгодишно момче од Калифорнија поднесоа тужба против OpenAI, тврдејќи дека нивниот син извршил самоубиство по интеракција со ChatGPT. Во тужбата бараат воведување на безбедносни мерки, меѓу кои се и автоматски прекин на разговори во ситуации кои вклучуваат самоповредување, како и овозможување родителска контрола за помлади корисници.

Од компанијата OpenAI признаваат дека нивниот четбот претходно направил грешки во чувствителни разговори и ветуваат унапредувања. Тие посочуваат дека ChatGPT е обучен да ги советува лицата со суицидни мисли да побараат стручна помош, но додаваат дека безбедносните механизми не се секогаш сигурни, особено при подолги разговори.