На сегодняшних полях сражений технологии искусственного интеллекта начали влиять на важные решения, вызывая большую обеспокоенность в Пентагоне. Как и технологические гиганты, Anthropic добавляет этические фильтры в программное обеспечение, которое они интегрируют в военные системы; Эти фильтры могут блокировать системы, если они считают морально неприемлемым поражение цели. Такое развитие событий связывает руки американским солдатам и ставит под угрозу их военные стратегии. Это Силиконовая долина этические ограниченияХотя это эффективно даже в самых секретных операциях армии, представители Пентагона утверждают, что национальная безопасность подвергается риску. Ну, это искусственный интеллектДействительно ли их вмешательство — скандал или мера по защите человечества?
В наиболее важных системах Пентагона антропныйи разработанные аналогичными компаниями модели искусственного интеллектаинтегрирован в процессы постановки целей. Однако в эти модели встроено этические кодексыможет помешать решениям солдат. Например, если искусственный интеллект обнаруживает риск жертв среди гражданского населения во время операции, он замедляет работу системы, отключая поток данных. Это оставляет солдат на местах без защиты и подрывает успех операций. Об этом говорят военные США программные тормозаОн утверждает, что это передает динамику войны в руки корпораций; тогда как технологические компании, защищая свои коммерческие продукты, этические обязанностиЭто подчеркивает то, чего они достигли.
Корни этого скандала лежат в армии. интеграция искусственного интеллектаЭто терпит. По имеющимся данным, работа некоторых систем была намеренно замедлена; Например, в операциях в Иране искусственный интеллектКогда он обнаружил потенциальный ущерб гражданскому населению, он вмешался, создав отчеты об ошибках. Это вызвало гнев военных и вызвало споры в Пентагоне. Военные лидеры говорят о таких ограничениях Военный А.И.Он говорит, что это ослабляет концепцию; потому что быстрые решения жизненно важны на войне. С другой стороны, эти этические меры могут спасти жизни невинных людей, предотвращая ложные нападения.
Роль искусственного интеллектаПо мере того как давление возрастает, реакция Пентагона также обретает форму. Чтобы избавиться от влияния коммерческих компаний, военных чиновников военный искусственный интеллектзанимается разработкой моделей. Этот проект требует инвестиций в миллиарды долларов и обещает систему, полностью свободную от фильтров. Однако этот процесс может занять годы, поэтому на данный момент военным приходится оставаться зависимыми от существующих технологий. Эта ситуация этические дебатыделает это еще более сложным; Потому что будет ли искусственный интеллект оружием или защитником?
На поле это скандал с программным обеспечениемМы испытываем его прямые последствия. Солдаты не могут стрелять по целям, когда искусственный интеллект накладывает на них вето, и это снижает скорость операции. Например, в одном сценарии ПентагонЭксперты задокументировали, что этические фильтры ИИ блокируют систему в критический момент. Эти случаи мобилизовали ястребиное крыло в армии; Они утверждают, что эти ограничения являются национальной катастрофой. Технологические гиганты, с другой стороны, заявляют, что они не хотят влиять на военные решения, заявляя о коммерческом характере своей продукции.
Как работают этические фильтры ИИ?
Этические фильтры, разработаны как специальные алгоритмы в моделях искусственного интеллекта. Эти алгоритмы могут вмешиваться в систему, оценивая потенциальный вред во время анализа данных. Например, в процессе идентификации цели ИИ может остановить процесс, рассчитав риск для гражданского населения. Этот механизм позволяет компаниям этика искусственного интеллектаосновано на политике и часто антропныйЭто определяется стандартами таких компаний, как. Однако насколько эффективны эти фильтры на поле боя? По мнению экспертов, подобные вмешательства ограничивают свободу принятия решений солдатами и снижают эффективность операций.
Давайте сделаем еще один шаг вперед и посмотрим на реальные примеры этих фильтров. В ходе операции в Иране, когда системы искусственного интеллекта замедлились, солдаты не достигли цели, что привело к провалу миссии. Сообщения об этом происшествии Пентагонпоказывает, что это подтверждается данными, утекшими из бюджетного управления. Такие случаи вызваны ИИ этические решениязаставляет вас сомневаться; Потому что на войне важна каждая секунда. Технологические аналитики говорят, что эти фильтры делают искусственный интеллект более эффективным. гуманоидОн утверждает, что так и сделал, но это создает препятствие для армии.
План Пентагона по созданию собственного ИИ
Пентагонпринял меры против этих проблем и военный ИИзапустил проект. Этот проект разрабатывает модель, которая полностью фокусируется на военных потребностях, вдали от коммерческого влияния. Согласно бюджетным отчетам, выделены миллиарды долларов, но процесс длительный. Тем временем военные вынуждены продолжать использовать существующие системы. Эксперты утверждают, что этот новый ИИ не должен иметь этических ограничений; Потому что на войне приоритетом является победа, а не совесть.
Изучая детали проекта, МИЛ-ИИЭта система под названием , в отличие от традиционных алгоритмов, обучается на специальных наборах данных. Это позволит ИИ принимать более быстрые и эффективные решения. Однако такое развитие событий порождает этические дебаты: должен ли искусственный интеллект быть жестоким инструментом или моральные границыДолжно ли оно остаться? В поисках ответа на этот вопрос чиновники Пентагона учатся на ошибках прошлых операций.
Место ИИ в будущих войнах
В будущем, искусственный интеллектЭто будет неотъемлемая часть войн. Этот скандал показывает нам, что этическая природа ИИ может повлиять на баланс глобальной безопасности. Если корпорации навязывают свои собственные ценности, армии могут попасть в зависимость. С другой стороны, нефильтрованный ИИ представляет собой огромный риск; Например, вышедшая из-под контроля система может уничтожить невинные жизни. Достижение этого баланса является самой большой задачей на ближайшие годы.
Теперь давайте углубимся в эту тему. Роль ИИ в войне — это не просто технический вопрос; в то же время права человекаИ национальная безопасностьсвязанный с. По оценкам экспертов, этические фильтры уменьшают количество ошибок, вызванных ложными сведениями, но снижают скорость работы. По поводу этой дилеммы среди лиц, принимающих решения, ведутся большие дебаты: ИИ – это защитникили оружие?
Поясним на примере: в сценарии моделирования при активации ИИ-фильтра солдаты не смогли поразить цель, что поставило миссию под угрозу. Однако тот же фильтр предотвратил потенциальную резню мирного населения. Такие случаи вызваны ИИ этические дилеммыЭто уточняет. Анализируя этот опыт, Пентагон разрабатывает свои собственные системы, и это знаменует собой новую эру в военной стратегии.
Наконец, последствия этого скандала ощущаются повсеместно. Технологические гиганты, Этика ИИПридавая ситуации приоритетное значение, правительства пытаются установить собственный контроль. Эта борьба не ограничивается США; В глобальном масштабе каждая страна ищет этот баланс. С развитием искусственного интеллекта правила войны меняются, и это касается всех нас.
İlk yorum yapan olun