Нейросети избавятся от критической проблемы: канадские программисты нашли способ преодолеть «катастрофическое забывание» — прорыв в обучении
Нейросети учатся по-новому — знания остаются навсегда.
«Катастрофическое забывание» – распространенная проблема в сфере технологий обучения нейросетей. Когда искусственный интеллект обучают последовательно, новые сведения способны перезаписать предыдущую информацию. В этом пока весомое отличие от способностей человеческого мозга, который учится постоянно и внедряет новые сведения в уже полученные знания.
Программисты Альбертского университета (Канада) нашли способ устранения «катастрофического забывания» у нейросетей, о чем рассказали в исследовании для журнала Nature.
Решение оказалось простым: ученые предложили метод повторной инициализации весов между сеансами освоения информации. Эксперты утверждают, что это позволяет сохранить гибкость нейросетевой программы и помогает ей расширять знания, не теряя связь с ранее полученными сведениями.
Проблема «катастрофического забывания» стала острой для массивных языковых моделей. На очередном этапе обучения развитие остановилось, точность снизилась. Но находка канадских программистов способна дать «второе дыхание» передовой технологии и устранить серьезную проблему.
Гибкость и адаптивность откроет путь к обширному применению ИИ в новых сферах, считают ученые.
Полезно знать: ученые прогнозируют, что искусственный интеллект будет выполнять 90–95% человеческих задач к 2060 году. Рынок труда в ближайшие 30–50 лет переживет не менее интенсивные перемены, чем после появления компьютеров и интернета.
Ранее ученые нашли новый таинственный объект в Млечном Пути.