ИИ в полшаге, чтобы «стать умнее человека»?!

Найден альтернативный способ достижения сверхчеловеческих способностей ИИ уже в 2024 году. Ситуацию анализирует Сергей Карелов, IT-эксперт

Совместное исследование Гарвардского, Принстонского и Калифорнийского университетов с DeepMind и Apple открыло новый феномен — трансцендентность LLM, когда генеративная модель достигает возможностей, превосходящих способности экспертов, генерирующих данные для ее обучения.

Открытие этого феномена — новый фазовый переход в раскрытии возможностей достижения ИИ превосходства над людьми.

Предыдущим фазовым переходом был прорыв к сверхчеловеческому уровню игры в шахматы, продемонстрированный AlphaGo Zero компании DeepMind в 2017 году. Ключом к тому успеху был отказ от использования для обучения ИИ наборов данных, полученных от экспертов-людей. Играя в шахматы (а потом и в Го) сама с собой, AlphaGo Zero достигла сверхчеловеческого уровня игры, недоступного даже для чемпионов мира среди людей.

Однако такой способ преодоления человеческих интеллектуальных способностей применим лишь к строго регламентированным задачам. При отсутствии строгих регламентов (правила, условия игры, начальные условия, внешние факторы и т. д.) для обучения модели необходимы наборы данных, описывающих, как эту задачу решали люди.

Но тут засада. Ведь если модель опять (как до AlphaGo Zero) будет учиться у людей, как она сможет превзойти уровень тех, на чьих данных ее учили? Это как если бы юных шахматистов учили не на партиях мастеров и гроссмейстеров, а на партиях их ровесников из другой шахматной школы. Открытие феномена трансцендентности снимает это ограничение, позволяя модели, обучаясь на партиях, например, перворазрядников, достигать собственного уровня игры на уровне гроссмейстеров.

Этого удается добиться за счет использования определенной техники выбора данных, называемой «низкотемпературная выборка».

Вот поясняющая метафора. Представьте себе, что вы учитесь играть в шахматы, наблюдая за множеством игроков. Обычно вы бы запоминали ходы, которые чаще всего приводят к победе, и пытались их повторить. Это похоже на стандартный способ обучения модели. Но что, если вы начнете выбирать не просто популярные, а очень точные и редкие ходы, которые гораздо эффективнее в определенных ситуациях? Вы станете играть намного лучше, чем те, у кого вы учились.

Низкотемпературная выборка — это как раз такой способ: он помогает модели фокусироваться на самых эффективных и точных решениях, даже если они редко встречаются в обучающих данных. Таким образом, «низкотемпературная выборка» помогает модели выделять и использовать самые лучшие ходы и в итоге превосходить своих учителей.

Принципиальное отличие второго фазового перехода от первого в том, что феномен трансцендентности должен позволять модели превосходить уровень учителей (отраженный в обучающих наборах данных) не только в строго регламентированных задачах, но и (пока теоретически) в любых.

Следовательно, уже в этом году могут появиться модели со сверхчеловеческими способностями в самом широком спектре применений.

Однако говорить о близком наступлении эры абсолютного превосходства ИИ над людьми феномен трансцендентности не позволяет. Дело в том, что трансцендентность достигается лишь за счет эффекта снижения шума (устранения ошибок, допущенных людьми). Это значит, что модель неспособна за счет новых абстрактных рассуждений производить новые решения, которые не может придумать человеческий эксперт… А человек может!

Но это остается последним (хотя и решающим) превосходством людей над ИИ.

Сергей Карелов, IT-эксперт, автор Telegram-канала «Малоизвестное интересное»

Найдено неожиданное средство для борьбы с дОт виагры обнаружена еще и польза для старческих мозговеменцией

Виагра полезна не только для лечения эректильной дисфункции, но и для профилактики деменции. Об этом заявил невролог Аластер Уэбб, пишет Daily Mail.

Поздно ложитесь спать? Вот о чем предупреждают «сов» психиатры

Распространенная привычка поздно ложиться спать повышает риск развития психических и поведенческих расстройств. К таким выводам пришли ученые, изучив данные 74 тысяч британцев.

Наиполезнейший завтрак: совет гастроэнтеролога

Выяснилось, каким должен быть завтрак для крепкого здоровья. О первом приеме пищи рассказала врач-гастроэнтеролог Ольга Помойнецкая, передает «Российская газета».

Решено: переходим на ослиное молоко, оно полезней

Эксперты рассказали, какое молоко наиболее полезно для человека. Исследования показали, что антиоксидантными свойствами и большим набором питательных веществ, включая витамины A, C, B, B12, E и D, а также кальций и фосфор, обладает ослиное молоко, сообщила врач-гастроэнтеролог Дарья Утюмова.

Электромобили в России: плюсы и минусы, мечты и реальность

За последний год число электромобилей в РФ увеличилось на 75%. О том, как электрокары входят в жизнь россиян разбирался в своем исследовании «РосБалт».