Нейросети избавятся от критической проблемы: канадские программисты нашли способ преодолеть «катастрофическое забывание» — прорыв в обучении
Наука
23 августа 2024 г. 17:55
Время чтения: 2 минуты

Нейросети избавятся от критической проблемы: канадские программисты нашли способ преодолеть «катастрофическое забывание» — прорыв в обучении

Нейросети учатся по-новому — знания остаются навсегда.

Преодоление «катастрофического забывания» у нейросетей: прорыв в обучении ИИ
Преодоление «катастрофического забывания» у нейросетей: прорыв в обучении ИИ / Фото: сгенерировано нейросетью

«Катастрофическое забывание» – распространенная проблема в сфере технологий обучения нейросетей. Когда искусственный интеллект обучают последовательно, новые сведения способны перезаписать предыдущую информацию. В этом пока весомое отличие от способностей человеческого мозга, который учится постоянно и внедряет новые сведения в уже полученные знания.

Программисты Альбертского университета (Канада) нашли способ устранения «катастрофического забывания» у нейросетей, о чем рассказали в исследовании для журнала Nature.

Решение оказалось простым: ученые предложили метод повторной инициализации весов между сеансами освоения информации. Эксперты утверждают, что это позволяет сохранить гибкость нейросетевой программы и помогает ей расширять знания, не теряя связь с ранее полученными сведениями.

Проблема «катастрофического забывания» стала острой для массивных языковых моделей. На очередном этапе обучения развитие остановилось, точность снизилась. Но находка канадских программистов способна дать «второе дыхание» передовой технологии и устранить серьезную проблему.

Гибкость и адаптивность откроет путь к обширному применению ИИ в новых сферах, считают ученые.

Полезно знать: ученые прогнозируют, что искусственный интеллект будет выполнять 90–95% человеческих задач к 2060 году. Рынок труда в ближайшие 30–50 лет переживет не менее интенсивные перемены, чем после появления компьютеров и интернета.

Ранее ученые нашли новый таинственный объект в Млечном Пути.

Читайте также