Как исследователь с докторской степенью в области нейробиологии и опытом работы в области криптографии, я нахожусь на перекрестке двух быстро развивающихся областей — науки и технологий. Появление ИИ, хотя и многообещающее во многих отношениях, создает серьезные проблемы для проверки целостности данных, идентификации и репутации. Если это не остановить, это может привести к наступлению эры дезинформации, остановке научных инноваций и потенциально даже деградации человеческого творчества и инноваций.
Быстрое развитие искусственного интеллекта, превосходящее нормативные меры, потенциально может поставить под угрозу целостность данных, проверку личности и репутацию, а если не принять меры незамедлительно, это может привести к эскалации распространения дезинформации и замедлить темпы научного прогресса. Стремление его ярых сторонников к созданию высокоинтеллектуального искусственного интеллекта можно сравнить с поиском нового золотого века в науке. Тем не менее, это стремление может привести к экзистенциальному риску, когда наше общество может застопориться на технологическом плато из-за широкого внедрения незрелых технологий искусственного интеллекта, что в конечном итоге со временем приведет к снижению человеческого творчества и инноваций.
Это противоречивое мнение для большинства акселерационистов. Предполагается, что ИИ увеличит нашу способность выполнять работу быстрее и синтезировать большие объемы информации. Однако ИИ не может заменить индуктивные рассуждения или экспериментальный процесс. Сегодня любой может использовать ИИ для создания научной гипотезы и использовать ее в качестве исходных данных для написания научной статьи. Результаты таких продуктов, как Aithor, часто кажутся авторитетными на первый взгляд и могут даже пройти экспертную оценку. Это большая проблема, поскольку тексты, созданные ИИ, уже рассматриваются как законные научные открытия и часто включают в себя поддельные сфабрикованные данные в поддержку своих утверждений. У молодых исследователей есть серьезный стимул использовать любые доступные им средства, чтобы конкурировать за ограниченное количество академических должностей и возможностей финансирования. Нынешняя система стимулирования в академических кругах вознаграждает тех, кто может опубликовать наибольшее количество статей, независимо от того, описывают ли эти статьи достоверные результаты или нет — им просто нужно пройти рецензирование и получить достаточное количество цитирований.
Надежный академический контент имеет решающее значение для отраслей, которые в значительной степени полагаются на фундаментальную науку в своих исследованиях и разработках, поскольку эта работа поддерживает функциональность нашего общества и повышает качество жизни растущего населения мира. К сожалению, когда авторство такого академического контента вызывает сомнения, это может создать серьезные проблемы. Следовательно, научно-исследовательские организации (НИОКР) с хорошими ресурсами могут полагаться только на исследования, которые они могут проводить и воспроизводить самостоятельно, тем самым повышая важность коммерческих тайн и потенциально препятствуя открытой науке и доступу к ценной информации.
Речь идет не только о дорогостоящих мерах против дезинформации; рассматриваемая проблема заключается в повсеместном подрыве доверия к знаниям как таковым. Непроверенные утверждения и неясные объяснения подрывают научный прогресс, создавая риск для научного сообщества. Сейчас нам срочно нужна система, которая сможет точно аутентифицировать контент и данные, создавая информационную экосистему, основанную на правде.
Системы искусственного интеллекта столь же мощны, как и данные, на которых они обучаются.
Большие языковые модели — отличные инструменты для создания убедительного контента; однако они информативны ровно настолько, насколько данные, на которых они обучаются. Их способность экстраполировать за пределы обучающего набора по-прежнему остается ограниченной. Роль науки заключается не только в синтезе существующих знаний, но и в создании новых информативных артефактов, которые увеличивают энтропию коллективного корпуса знаний, накопленного человечеством. Со временем, когда все больше людей будут использовать ИИ для создания контента и все меньше людей будут создавать оригинальный контент, мы столкнемся с «раздуванием с низкой энтропией», которое не представляет миру новую информацию, а просто рекомбинирует прошлые знания. Первичные источники будут потеряны, поскольку новые «знания» основаны на самоссылающемся контенте, созданном ИИ, если мы не создадим устойчивое происхождение и проверенный уровень атрибуции в инструментах ИИ, используемых для серьезных исследований.
«Упрощение сложности человеческих знаний посредством того, что аналогично «лоботомизации», может иметь долгосрочные последствия для различных областей, включая медицину, экономику, академические круги и искусство. доверие к научным исследованиям. Потенциальные опасности, связанные с наукой, основанной на искусственном интеллекте, многочисленны. Обычная научная работа может застопориться из-за споров об авторстве, обвинений в плагиате и т. д. ошибочная экспертная оценка Нам, вероятно, придется инвестировать больше ресурсов, чтобы устранить последствия ухудшения качества и надежности исследований.
Искусственный интеллект (ИИ) служит ценным ресурсом для генерации идей, организации мыслей и оптимизации повторяющихся обязанностей; он должен функционировать как дополнение к контенту, созданному людьми, а не как замена. Крайне важно, чтобы ИИ использовался не для написания научных статей, представляющих новые открытия, без необходимой работы, а вместо этого в качестве инструмента для повышения производительности и точности инициатив, возглавляемых людьми. Например, ИИ может быть полезен при моделировании существующих данных с использованием установленных методов, автоматизируя этот процесс и помогая определить потенциальные направления исследований. Тем не менее, экспериментальные планы и новаторское мышление, необходимые для научных исследований, не могут быть легко заменены.
Построение экономики, основанной на правде
В экономической системе, ориентированной на правду, мы создаем надежную структуру, используя технологии и рекомендации для обеспечения правдивости, безопасности, открытости и отслеживаемости данных. Удовлетворяя необходимость обеспечения надежности и проверки в нашем цифровом мире, эта система позволяет людям и учреждениям быть уверенными в правильности информации, которой они делятся. Ценность определяется достоверностью утверждений и подлинностью доказательств и первоначальных источников. Эта ориентированная на истину экономика стремится сделать цифровые знания такими же надежными, как традиционная валюта, созданная Биткойном, что является видением децентрализованного научного движения.
Как мы можем добраться до места назначения? Давайте начнем с того, что сосредоточимся на краеугольном камне научного сообщества: исследователе и его работе. В настоящее время веб-стандарты для установления личности ученого неадекватны, когда дело доходит до подтверждения заявлений о личности и подлинности работы. В нынешнем виде создать профиль с респектабельной репутацией относительно просто; экспертные оценки также уязвимы из-за потенциальной предвзятости и сговора. Без проверки данных, сопровождающих научные утверждения, мы не сможем создать для науки экономику, основанную на доверии.
Улучшения в академических нормах идентификации могут начаться с внедрения универсальной системы входа на всех платформах, подкрепленной безопасной технологией проверки личности, которая отдает приоритет конфиденциальности. Таким образом, пользователи могут войти на любую платформу с одними и теми же учетными данными, подтвердить свою подлинность и выбрать, какой информацией о своей репутации, данных или взаимодействии с другими пользователями они хотят поделиться.
В основе DeSci лежит структура идентичности, основанная на поддающейся проверке репутации исследователя. Целью этого фонда является создание всеобъемлющей сетевой научной экономики, открытой как для публичных, так и для анонимных участников. Содействуя массовому онлайн-сотрудничеству в исследовательской деятельности, эта экономика поощряет участие со всех сторон.
На страже будущего человеческого прогресса
Чтобы создать надежную основу для истины, мы должны обеспечить прозрачность и тщательную проверку информации, чтобы сохранить доверие к нашим исследовательским сообществам. Продолжительность нашего коллективного роста и будущих прорывов в таких областях, как материаловедение, биотехнология, нейробиология и наука о сложности, зависит от сохранения высококачественных исследований и точных данных. Это различие между нами и обществами до Просвещения будет определять, будем ли мы прогрессировать или стагнировать, что потенциально может привести к интеллектуальному упадку нашего вида. Остается неясным, сможет ли DeSci спасти нас, но время, чтобы все исправить, истекает.
Шади Эль Дамати, выходец из Holonym Foundation, ставит перед собой задачу найти универсальный подход к личности и обеспечить безопасность цифровых входов с использованием децентрализованного метода идентификации, который использует возможности доказательств с нулевым разглашением. В 2020 году он основал OpSci, первую децентрализованную научную организацию, часто называемую DeSci. Прежде чем погрузиться в мир криптовалют, Шейди получил степень доктора нейробиологии в Джорджтаунском университете, Вашингтон, округ Колумбия, США.
Смотрите также
- Будущее Sushi: прогнозы цены на криптовалюту SUSHI
- Биткойн преодолел отметку в 108 000 долларов. Следующими будут ли 210 000 долларов? Учреждения так думают
- Будущее Pepe: прогнозы цены на криптовалюту PEPE
- Будущее Algorand: прогнозы цены на криптовалюту ALGO
- Акции MVID. М.видео: прогноз акций.
- Ink Chain выбирает RedStone для поддержки своей экосистемы DeFi
- Будущее Memecoin: прогнозы цены на криптовалюту MEME
- Будущее Fwog: прогнозы цены на криптовалюту FWOG
- Платформа RWAfi Plume получила раунд серии А на сумму 20 миллионов долларов
- HAPPY/USD
2024-12-22 16:14