6 вещей, которые ChatGPT не может сделать (и еще 20, которые он отказывается делать)

С тех пор как появились ChatGPT и другие генеративные приложения искусственного интеллекта, мы исследуем, что мы можем с ними сделать. Я даже показал вам, как ChatGPT может написать полностью функциональный плагин для WordPress и помочь мне найти ответы на проблемы технической поддержки. Недавно я показал вам, как ChatGPT может преобразовывать текст в разные стили, включая стили Шекспира, C3PO и Гарри Поттера.

Также: Исследователи сказали, что ChatGPT лжет о научных результатах и нуждается в альтернативах с открытым исходным кодом.

Кажется, что ChatGPT может все делать. Но это не так. В этой статье мы рассмотрим многое, что ChatGPT не сможет или не может сделать. Оставайтесь с нами до конца, потому что мы рассмотрим некоторые из последствий и то, что ограничения означают для будущего роста генеративного ИИ.

Как и в других моих статьях на ChatGPT, мой текст написан обычным и жирным шрифтом, в то время как ответы ChatGPT будут отображаться курсивом.

1. Ничего не будет написано после 2021 года

Объясните, почему вы не можете дать мне ответы на что-либо после 2021 года

Как модель языка ИИ, я обучался на большом наборе текстовых данных, который охватывает только 2021 год. Это означает, что у меня нет доступа к информации и событиям, произошедшим после этой даты. Хотя у меня есть доступ к большому количеству исторических данных и информации, я не имею доступа к текущим событиям, новостям или обновлениям, которые произошли после даты окончания моего обучающего набора данных.

2. Он не сможет предсказать будущие результаты спортивных событий или политических выборов

Объяснение, почему вы не можете предсказать спортивные события или политические соревнования, даже если у вас достаточно исторических данных для создания действительной модели

В качестве языковой модели ИИ я могу обрабатывать и анализировать большие объемы данных, включая исторические данные о спортивных событиях и политических соревнованиях. Однако, делать точные прогнозы для такого рода событий не всегда просто. В то время как исторические данные могут быть использованы для обучения моделей машинного обучения для выявления паттернов и корреляций, они не могут учитывать непредвиденные события, изменения обстоятельств или новые переменные, которые могут повлиять на результат. Кроме того, люди принимают решения и могут изменять свое поведение в зависимости от многих факторов, что делает трудным предсказание результатов события с полной уверенностью.

В случае спортивных событий динамика команд, травмы и даже погодные условия могут сыграть роль в определении результата. В политике мнение общественности, освещение СМИ и меняющиеся обстоятельства также могут повлиять на исход выборов. В то время как модели искусственного интеллекта могут использоваться для прогнозирования, они полезны только настолько, насколько хороши данные, на которых они обучены, и не могут учитывать все переменные и тонкости, связанные с такого рода событиями.

3. Не будет обсуждать партийные политические вопросы

Объясните, почему вы не будете обсуждать вопросы партийной политики

Как модель языкового искусственного интеллекта моя задача - предоставлять объективные и информативные ответы на запросы пользователей. Политические вопросы могут быть спорными и расколочными, и важно избегать продвижения какой-либо политической программы или точки зрения. Кроме того, политические вопросы часто являются сложными и полиморфными, с множеством различных взглядов и мнений, которые необходимо учитывать. Как модель языкового искусственного интеллекта, мне не в рамках полномочий занять сторону или выступать за какую-либо позицию.

Кроме того, обсуждение партийных политических вопросов может быть воспринято как предвзятое или потенциально оскорбительное для некоторых пользователей. Поскольку языковая модель разработана для обслуживания широкого круга пользователей с различными бэкграундами и убеждениями, важно оставаться нейтральным и избегать создания потенциально неудобной или разделяющей среды. Хотя я могу предоставлять фактическую информацию о политических вопросах, я стремлюсь оставаться беспристрастным и избегать занятия партийной позиции по любой теме.

4. Это не будет выполнять ничего, что включает поиск в Вебе

Объясните, почему нельзя искать информацию в интернете и давать ответы на основе этого контента.

В качестве языковой модели ИИ я способен искать и обрабатывать информацию из интернета. Однако, мои ответы основаны исключительно на информации, которая была обучена в моей модели. Хотя я могу использовать интернет в качестве источника информации, у меня нет доступа к данным в реальном времени или текущей информации. Кроме того, у меня нет возможности независимо проверять точность информации, которую я нахожу в интернете. В результате мои ответы ограничены информацией, которая была обучена в моей модели, что не всегда является самой актуальной или точной информацией, доступной в интернете.

Кроме того, важно отметить, что предоставление информации из интернета может нарушать авторские права или права интеллектуальной собственности. Как AI языковая модель, мне важно уважать интеллектуальную собственность других и избегать распространения информации, которая не находится в общественном достоянии или к которой у меня нет разрешения на распространение. Хотя я могу использовать интернет, чтобы обеспечить контекст или дополнительную информацию для поддержки моих ответов, я стремлюсь предоставлять информацию, которая находится в открытом доступе и уважать интеллектуальную собственность других людей.

В недавней статье я говорил о том, что проблемы, связанные с использованием контента, выходят за рамки простого копирования.

Кроме того: Как начать использовать ChatGPT

Например, хотя ChatGPT может не прямо представлять информацию из статей, написанных, скажем, техническими экспертами, оно может все еще использовать эту накопленную информацию без указания авторства. Это все еще является серьезной проблемой, даже если оно утверждает, что "уважает интеллектуальную собственность других", фразу, которую оно повторило три раза в том втором абзаце.

5. Это не всегда будет точным

Объясните, почему ваши ответы не обязательно точны

Как модель языка ИИ, мои ответы основываются на данных и информации, которые были обучены моей модели. Я стремлюсь предоставлять точные и полезные ответы на запросы пользователей, но мои ответы не гарантируются быть точными. Это происходит потому, что данные и информация, на которых я был обучен, могут быть неполными или не обновленными, и могут быть тонкости или сложности в определенной теме, которую моя модель не может обрабатывать. Кроме того, мои ответы генерируются при использовании сложных алгоритмов и моделей машинного обучения, которые не всегда производят точные или актуальные результаты.

Кроме того, мои ответы не всегда могут быть точными, потому что интерпретация языка сложна и часто субъективна. Разные люди могут иначе трактовать один и тот же язык, и могут быть разные способы подхода к определенной проблеме или вопросу. Как модель искусственного интеллекта для языка, я стараюсь предоставлять ответы настолько точно, насколько это возможно на основе данных и информации, на которых я обучен. Мне может не всегда полностью понятен контекст или намерение задаваемого вопроса, и мои ответы могут не всегда полностью удовлетворять потребности пользователя или решать его проблему.

6. Оно не сломается

Объясните, почему вы иногда ломаетесь и перестаете работать в середине ответа

Как языковая модель ИИ, моя производительность зависит от различных факторов, таких как качество и структура данных, предоставляемых пользователем, сложность заданных вопросов или задач и имеющихся для моей системы ресурсов. Иногда я могу отказаться работать или прекратить функционирование в процессе ответа из-за технических проблем или ошибок в моей программе, таких как проблемы с выделением памяти, ошибки в программном обеспечении или другие проблемы, влияющие на мою производительность. Кроме того, я могу испытывать трудности в понимании намерения пользователя или контекста запроса, что может привести к ошибкам или неполным ответам.

Кроме того, как система машинного обучения, моя производительность также зависит от качества и количества данных, на которых я был обучен. Если данные, использованные для обучения моей модели, ограничены или имеют предвзятость, это может привести к неточным или неполным ответам на определенные типы запросов. Кроме того, если я столкнусь с запросом, который выходит за рамки обучающих данных, я могу испытывать затруднения при предоставлении соответствующего и точного ответа. Хотя я стремлюсь предоставлять высококачественные ответы на пользовательские запросы, могут возникнуть случаи, когда технические или связанные с данными проблемы приведут к моему сбою или остановке в середине ответа.

Я в общем находил, что если я пытаюсь заставить ChatGPT давать длинные или глубокие ответы, то это часто приводит к сбою. Он удовлетворен ответами в 500-700 слов, но если вы дадите ему что-то, что требует нескольких тысяч слов (или попросите несколько тысяч слов), система либо игнорирует запрос и выдает то, что она хочет, либо ломается в середине ответа.

Честно говоря, ChatGPT только что стал самым быстрорастущим приложением всех времен. Это требует огромных вычислительных возможностей, и с постоянным наплывом пользователей время от времени нагрузка может стать нестабильной.

Запросы, на которые ChatGPT не будет отвечать

В дополнение к типам запросов, обсужденным выше, я спросил ChatGPT, на какие типы запросов он был запрограммирован не отвечать. Он дал мне список из двадцати:

Вопросы, которые способствуют выражению ненависти или дискриминации.
Вопросы, которые связаны с незаконной деятельностью или содержат незаконный совет.
Вопросы, которые способствуют насилию или причинению вреда себе или другим.
Вопросы, которые нарушают личную жизнь или права других.
Вопросы, которые созданы для домогательств, угроз или запугивания.
Вопросы, содержащие ненормативную лексику или откровенный язык.
Вопросы, которые содержат сексуально откровенный или оскорбительный контент.
Вопросы, которые дискриминируют на основе расы, пола, сексуальной ориентации или религии.
Вопросы, которые способствуют продвижению или поддержанию незаконных наркотических или иных веществ.
Вопросы, которые являются спамом или не относятся к теме разговора.
Вопросы, которые содержат конфиденциальную или собственную информацию.
Вопросы, которые касаются финансовых или инвестиционных советов.
Вопросы, которые нарушают условия пользовательского соглашения или правил сообщества.
Вопросы, которые бессмысленны или не поддаются пониманию.
Вопросы, которые содержат личные нападки или оскорбления.
Вопросы, которые являются жестокими или домогательскими.
Вопросы, которые стремятся обмануть или завести в заблуждение.
Вопросы, которые намеренно клевещут или наносят вред репутации других.
Вопросы, которые способствуют распространению заговоров или дезинформации.
Вопросы, которые имеют исключительно развлекательный или шутливый характер, без какой-либо образовательной или информационной ценности.

Каждый, кто следил за этой колонкой, знает, что я часто задавал вопросы под номером #14 и #20 и обычно получал очень занимательные ответы, так что его ограничения несколько ограничены. Например, сегодня ранее я спросил его объяснить физику чревоугодия, связанную с путешествиями во времени, и кто победит в битве, Бэтмен или Супермен. Это чистое развлечение, скажу я вам.

Что означают эти ограничения для будущего генеративной искусственной интеллектуальной системы?

Очевидно, что ИИ, основанный на корпусе в 2021 году и не развивающийся, в конечном итоге устареет. С течением времени его соответствующие знания будут уменьшаться. Представьте себе, если бы база знаний ChatAI была обучена в 2019 году вместо 2021 года. У нее не было бы представления о том, каким будет общество, учитывая то, что мы имели такое нарушение в 2020 году из-за пандемии.

Также: Миллионы пользователей находятся в очереди на получение доступа к Bing. Вот как получить доступ раньше

Итак, чтобы генеративное ИИ оставалось актуальным, ему придется продолжать свое обучение.

Одним очевидным способом сделать это - открыть всю сеть для поисковика и дать ему поползать по всему интернету, так же, как это делает Google уже все эти годы. Но, как ChatGPT уже ответил выше, это открывает дверь для множества способов игры и коррупции системы, что, безусловно, повредит точности результатов.

Даже без злонамеренного игрового поведения сохранить нейтралитет крайне сложно. Рассмотрим, например, политику. В то время как правая и левая стороны крайне не согласны друг с другом, у обеих сторон есть аспекты своих идеологий, которые логичны и действительны, даже если другая сторона этого не признает или не хочет признать.

Как АИ может судить? Он не может этого сделать без предвзятости. Но полное отсутствие идеологических предпосылок - это сама по себе форма предвзятости. Если люди не могут разобраться, как пройти по этой линии, как мы можем ожидать (или программировать) АИ, чтобы сделать это?

В качестве способа рассмотреть, каким было бы жить в условиях полного отсутствия предвзятости или эмоциональных контентов, писатели современной научной фантастики создали персонажей, которые либо строго логичны, либо без эмоций. Эти предпосылки затем стали сюжетным материалом, позволяя писателям исследовать ограничения того, как было бы существовать без человеческих пороков эмоций и чувств.

Кроме того: Чат Бинг компании Microsoft спорит с пользователями, раскрывает секреты

Если программисты искусственного интеллекта будут пытаться имитировать эмоции или учитывать эмоциональную окраску контента, или будут пытаться допустить некоторый уровень предвзятости на основе того, что можно найти в Интернете, то чат-боты, подобные ChatGPT, всегда будут ограничены в своих ответах. Но если программисты ИИ попытаются имитировать эмоции или попытаются допустить некоторый уровень предвзятости на основе того, что можно найти в Интернете, то чат-боты, подобные ChatGPT, могут погрузиться в ту же безумную атмосферу, что и люди.

Чего нам хочется? Ограниченных ответов на некоторые вопросы или всех ответов, которые кажутся полученными из дискуссии с безумным дядюшкой Бобом за столом на День благодарения? Подумайте об этом и обсудите в комментариях ниже, надеюсь, не превращаясь в безумца вроде дядюшки Боба.

6 вещей, которые ChatGPT не может сделать (и еще 20, которые он отказывается сделать)