„Zawstydzające, niedokładne i obraźliwe”. Google wyłącza swoją sztuczną inteligencję

Google goni za GPT

Google z początku zdawało się nie wiedzieć, na jakiej bazie budować konkurencję dla ChatGPT . Jednocześnie korporacja dysponowała przynajmniej kilkoma zespołami , które rozwijały swoje duże modele językowe. W końcu ich miszmasz poskutkował premierą konwersacyjnego LLM o nazwie Bard.

To jednak nie wzbudziło już takiego zainteresowania, jak ChatGPT, które do tego czasu rozwinęło swoje usługi i udostępniło m.in. silnik tekst-obraz. W ostatnim czasie Barda przemianowano na Gemini , by jeszcze raz spróbować powalczyć z OpenAI. Dziś wiemy, że nie będzie to takie łatwe.

Kuriozalne wyniki pracy Gemini

Gdy bowiem tylko silnik Gemini w wariancie generującym obrazy na podstawie tekstu trafił w ręce użytkowników, ci szybko wykazali, że efekty jego pracy są kuriozalne . Jak na dłoni było widać, że Google „podkręciło” parametry określające różnorodność etniczną osób przedstawionych na grafikach, co internauci bezlitośnie obnażyli.

Doszło do rezultatów, które Google nazywa „niedokładnością historyczną”. Bazujący na współczesnej polityce Google w zakresie różnorodności Gemini potrafił wygenerować obrazy całkowicie wyrwane z kontekstu kulturowego i historycznego . W ten sposób prośba np. o generowanie obrazów żołnierzy Wermachtu skutkowała tym, że zdecydowana większość z nich była czarnoskóra lub jej wygląd wskazywał na pochodzenie azjatyckie.

„Zawstydzające, niedokładne i obraźliwe”

Google wydało już komunikat, w którym obwieszcza tymczasowe wyłączenie Gemini do czasu, aż rezultaty będą bardziej adekwatne. Korporacja sama przyznaje, że efekty pracy silnika buły „zawstydzające, niedokładne i obraźliwe” i choć potwierdza, że takie przypadki mogą się niekiedy powtarzać w przyszłości, to Google nadal będzie poświęcać zasoby, by eliminować podobne „historyczne niedokładności”. Nie jest znany termin przywrócenia dostępu do Gemini.