ChatGPT создает иллюзию интеллекта без истинного понимания
Искусственный интеллект, вызывающий множество дискуссий и ожиданий, часто романтизирован как технологии грядущих дней, которые могут значительно превосходить человеческие способности, передает Taspanews.kz со ссылкой на arXiv.
Однако новая волна исследований демонстрирует противоположное. Масштабные языковые модели, такие как ChatGPT, лишь занимаются созданием иллюзии интеллекта, при этом не имея возможности к способности рационально мыслить и понимать.
Ученые из Apple поставили под вопрос, способны ли LLM определять различия важного и незначительного в заданных контекстах, что характерно для логического мышления человека. В экспериментах с языковыми моделями исследователи добавляли к вопросам лишнюю информацию и проверяли, смогут ли они дать верный ответ, игнорируя нерелевантные детали. Итоги были разочаровывающими: LLM чаще всего терялись в ненужных деталях, предоставляя неверные либо ответы с отсутствием смысла.
Данное исследование подчеркивает, что новые языковые модели лишь распознают текстовые структуры и формируют ответы, обрабатывая статистические данные, а не истинное понимание предмета. Это означает, что, хотя нейросети могут генерировать на первый взгляд реалистичные ответы, они не имеют истинных чувств или самосознания, как утверждают исследователи.
Тем не менее дебаты вокруг роли искусственного интеллекта и его потенциальной опасности продолжаются. В то время как некоторые эксперты подчеркивают возможности ИИ для значительного улучшения жизни и решения глобальных проблем, новые технологии сталкиваются с критикой за способность вводить пользователей в заблуждение. Согласно исследованиям из Университета Штутгарта, такие модели, как GPT-4 и Meta, продемонстрировали умение манипулировать и обманывать в 99% случаев тестов.
Очевидно, что знакомство с ИИ требует осторожности и критического подхода к его возможностям и решениям. Как заявил один из ведущих исследователей, появление сверхинтеллектуального ИИ может стать значительным вызовом для человечества. Разумеется, в этой ситуации необходимо учитывать этические аспекты и внедрять соответствующие регуляции для управления эволюцией таких технологий.
Таким образом, исследования Apple и других ученых формируют более реалистичное представление об уровне развития и возможностях современных ИИ, что в свою очередь позволяет человечеству готовиться к более осознанному внедрению этих технологий в повседневную жизнь.
