Вътрешната история за това как е създаден ChatGPT от хората, които са го направили

Сандини Агарвал: Имаме много следващи стъпки. Определено мисля, че как ChatGPT стана вирусен, създаде много проблеми, за които знаехме, че вече са налице и станаха критични – неща, които искаме да разрешим възможно най-бързо. Знаем, че моделът все още е много пристрастен. И да, ChatGPT е много добър в отхвърлянето на лоши заявки, но също така е лесно да напишете подкани, които го карат да не отхвърля това, което сме искали да отхвърли.

Лиам Федос: Беше вълнуващо да видим разнообразните и креативни приложения от нашите потребители, но ние винаги се фокусираме върху области, които се нуждаят от подобрение. Вярваме, че чрез итеративен процес, при който внедряваме, получаваме обратна връзка и подобряваме, можем да произведем най-съвместимата и способна технология. С развитието на нашата технология неизбежно възникват нови проблеми.

Сандини Агарвал: В седмиците след старта разгледахме някои от най-ужасяващите примери, които хората са откривали, най-лошите неща, които хората са виждали в дивата природа. Някак си оценихме всеки един от тях и обсъдихме как можем да го поправим.

Ян Лейк: Понякога това става вирусно в Twitter, но имаме хора, които всъщност комуникират тихо.

Сандини Агарвал: Много от нещата, които открихме, бяха джейлбрейкове, което определено е проблем, който трябва да коригираме. Но тъй като потребителите трябва да експериментират с тези сложни тактики, за да накарат формуляра да каже нещо лошо, това не е нещо, което напълно сме изгубили от поглед или нещо, което е много изненадващо за нас. С това казано, това е нещо, върху което работим активно в момента. Когато открием джейлбрейкове, ние ги добавяме към нашите данни за обучение и тестове. Всички данни, които виждаме, се подават в бъдещ модел.

Ян Лейк: Всеки път, когато имаме по-добър модел, искаме да го извадим и да го тестваме. Ние сме много оптимистично настроени, че някои от тренировките за целите на противника могат много да подобрят ситуацията с джейлбрейка. Не е ясно дали тези проблеми някога ще изчезнат напълно, но смятаме, че можем да направим процеса на джейлбрейк много по-труден. Отново, не е като да не знаем, че джейлбрейкът е възможен преди освобождаването. Мисля, че е много трудно да се предвидят реални проблеми с безопасността на тези системи, след като бъдат разгърнати. Така че ние се фокусираме много върху това да наблюдаваме за какво хората използват системата, да виждаме какво се случва и след това да реагираме на това. Това не означава, че не трябва проактивно да смекчаваме проблемите с безопасността, когато ги очакваме. Но да, много е трудно да се предвиди всичко, което действително ще се случи, когато системата удари реалния свят.

През януари Microsoft представи Bing Chat, a.k.a Търсете в чатбота Мнозина предполагат, че това е версия на необявения GPT-4 на OpenAI. (OpenAI казва: „Bing се захранва от един от моделите от следващо поколение, които Microsoft персонализира специално за изследвания. Той включва напредъка от ChatGPT и GPT-3.5.“) Нови предизвикателства за тези, натоварени с изграждането на основните модели.