August 20, 2022

loopnewz

News 24/7

Роботизираните технологии могат да улеснят развитието на изкуствения интелект


„BERT отнема месеци изчисления и е много скъп – като милион долара за изграждане на този модел и повторение на тези процеси“, казва Бахрами. „Така че, ако всички искат да правят едно и също нещо, това е скъпо – не е енергийно ефективно, не е добро за света.“

Въпреки че тази област е обещаваща, изследователите все още търсят начини да направят техниките на autoML по-ефективни в изчислително отношение. Например, методи като Neuroarchitecture Search в момента изграждат и тестват много различни модели, за да намерят най-доброто прилягане, и енергията, необходима за завършване на всички тези итерации, може да бъде значителна.

Техниките на AutoML могат да се прилагат и към алгоритми за машинно обучение, които не включват невронни мрежи, като например генериране на произволни набори от решения или поддържащи векторни машини за класифициране на данни. Изследванията в тези области продължават, като много библиотеки за кодиране вече са налични за хора, които искат да включат autoML технологиите в своите проекти.

Хътър, организаторът на конференцията, казва, че следващата стъпка е да се използва autoML за идентифициране на несигурността и да се отговори на въпросите за надеждността и справедливостта в алгоритмите. От тази гледна точка стандартите за надеждност и справедливост биха били подобни на всички други ограничения на машинното обучение, като например точността. И autoML може автоматично да улавя и коригира отклоненията в тези алгоритми, преди да бъдат пуснати.

Търсенето продължава

Но за нещо като задълбочено обучение autoML все още има да извърви дълъг път. Данните, използвани за обучение на модели за задълбочено обучение, като изображения, документи и записана реч, обикновено са плътни и сложни. Необходима е огромна изчислителна мощност, за да се справим с него. Цената и времето за обучение на тези модели могат да бъдат непосилни за всеки, освен за изследователите, работещи в дълбоките си джобове частни компании.

Едно състезание на конференцията поиска от участниците да разработят алтернативни енергоспестяващи алгоритми за изследване на невронната архитектура. Това е доста предизвикателство, защото тази технология има Известни аритметични твърдения. Той автоматично преминава през безброй модели за дълбоко обучение, за да помогне на изследователите да изберат правилния за тяхното приложение, но процесът може да отнеме месеци и да струва над милион долара.

Целта на тези алтернативни алгоритми, наречени проксита за търсене на невронна архитектура с нулеви разходи, е да направят търсенето в невронната архитектура по-интуитивно и екологично, като значително намалят апетита й за изчисления. Необходими са само няколко секунди, за да се покаже резултатът, а не месеци. Тези технологии все още са в ранен етап на развитие и често са ненадеждни, но Изследователите на машинното обучение очакват Че имат потенциала да направят процеса на избор на модел по-ефективен.



Source link