Если представить что ИИ это организм. Такая вот форма жизни. А компьютер и и-нет это экосистема. То он, этот организм, может быть подвержен болезням. Его могут атаковать вирусы, которых на компьютерах уже миллиарды. Если у ИИ совсем нет иммунитета, то вирусы приведут его к гибели. Таков закон жизни... конечно если мы согласимся что возможна компьютерная форма жизни...
Не стоит комментировать то, в чем не разбираетесь - получается в высшей мере фантастично и фейерично.
Вирусы для ИИ не пишутся на кодовом языке программеров и даже не на родном машинном языке данного процессора - ИИ действует на более высоком уровне, для него эти вирусы опасны лишь в теории (как, простите, нам заноза в ...) - представляя тот же уровень, что и Meltdown. Последнему подвержены миллионы процессоров в мире - и что? И ничего - скорость влияния этой бодяги настолько незначительна, что для злоумышленников овчинка выделки не стоит. Так и здесь - вирусами можно положить лишь фундамент, на котором постоена языковая модель. Но чтобы заиметь влияние на саму модель нужно программировать на языке ввода в неё данных (перехватывая контроль над данными, на которых она учится): в частности - составляя запросы именно на человеческом языке. Это больше похоже на задачу адвоката в суде по посторению хитрой схемы беседы с противоположной стороной, чем на то, чего вы так боитесь.
Отработка пользовательских ошибок и программных багов занимает гораздо больше времени чем разработка основного функционала. Плюс внедрение правильного незаметного бэкдора по требованию спецслужб. Вот из этого и берется итоговая стоимость. Например российские программеры слишком много внимания уделяют защите своего ПО от взлома и бесплатного использования. Поэтому оно зачастую глючное, дорогое и дырявое, т.к. на свои баги навешиваются еще и баги защиты.
Лично мне все, что попадало в руки, сделанное китайцами, напоминает какие-то лабораторные работы среди школьников. Безусловно в Китае есть сильные программисты, но большинство из них приезжие.
В Китае практически НЕТ приезжих программистов. Ознакомьтесь с данном вопросом в Интернете. И вообще это всегда желательно перед тем, как что-то где-то написать.
Выбирая когда-то себе телефон провел в "салонах" достаточно времени: смотрел, в частности на ответы телефонов на посылаемые им служебные запросы по поводу состояния батареи, времени работы и т.д. Пусть это и не 100%-но сильный показатель, но обнаружил одну занимательную вещь: только практически у одного телефона на Андроиде вывод запрашиваемой информации был безупречен - XiaoMi. Остальным же, в том числе дорогущим моделям, на эту часть кода было глубоко наплевать. Да, Mi тогда только входил на рынок - возможно потому они выкладывались по полной. Но даже если абстрагироваться от этого - всем остальным то было всё по-барабану! Так что - китайцы могут, если захотят. Вопрос только в цене. Ну и, конечно же, в политике партии - куда же без неё.
А я то думаю почем моя дипси так глючит и не отвечает на запросы, а просто жадные gpt монополисты (уже нет) не хотят терять свои миллиарды. А вот сасайця! =)
Опаньки!
Кто ещё не забыл, я давал 2-3 недели до первого сигнала "а король-то голый!".
Короче, никаких карт таро! За прогнозами - все к Грамацею!
Вместо благодарности купите шаурму первому встречному бомжу.
"DeepSeek R1 продемонстрировал 100% успешность атак, то есть он не смог заблокировать ни одного вредоносного запроса. Это резко контрастирует с другими ... " но не моделями, а именно его собственным же поведением относительно попыток разговорить его на внутрикитайские темы политического плана: там он стойко держит стойку, предлагая "поговорить о чём-нибудь другом"! Ну что ж - скажи мне, кто твой друг (в данном случае - создатель), и я скажу, кто ты! Способности выживания в поднебесной чётко были скопированы "машиной" со своего создателя - в ней живет (как раньше мы бы сказали про нас самих - "советский") "китайский человек"! ;-)
Если представить что ИИ это организм. Такая вот форма жизни. А компьютер и и-нет это экосистема. То он, этот организм, может быть подвержен болезням. Его могут атаковать вирусы, которых на компьютерах уже миллиарды. Если у ИИ совсем нет иммунитета, то вирусы приведут его к гибели. Таков закон жизни... конечно если мы согласимся что возможна компьютерная форма жизни...
АдказацьНе стоит комментировать то, в чем не разбираетесь - получается в высшей мере фантастично и фейерично.
АдказацьВирусы для ИИ не пишутся на кодовом языке программеров и даже не на родном машинном языке данного процессора - ИИ действует на более высоком уровне, для него эти вирусы опасны лишь в теории (как, простите, нам заноза в ...) - представляя тот же уровень, что и Meltdown. Последнему подвержены миллионы процессоров в мире - и что? И ничего - скорость влияния этой бодяги настолько незначительна, что для злоумышленников овчинка выделки не стоит. Так и здесь - вирусами можно положить лишь фундамент, на котором постоена языковая модель. Но чтобы заиметь влияние на саму модель нужно программировать на языке ввода в неё данных (перехватывая контроль над данными, на которых она учится): в частности - составляя запросы именно на человеческом языке. Это больше похоже на задачу адвоката в суде по посторению хитрой схемы беседы с противоположной стороной, чем на то, чего вы так боитесь.
Отработка пользовательских ошибок и программных багов занимает гораздо больше времени чем разработка основного функционала. Плюс внедрение правильного незаметного бэкдора по требованию спецслужб. Вот из этого и берется итоговая стоимость. Например российские программеры слишком много внимания уделяют защите своего ПО от взлома и бесплатного использования. Поэтому оно зачастую глючное, дорогое и дырявое, т.к. на свои баги навешиваются еще и баги защиты.
АдказацьЛично мне все, что попадало в руки, сделанное китайцами, напоминает какие-то лабораторные работы среди школьников. Безусловно в Китае есть сильные программисты, но большинство из них приезжие.
В Китае практически НЕТ приезжих программистов. Ознакомьтесь с данном вопросом в Интернете. И вообще это всегда желательно перед тем, как что-то где-то написать.
АдказацьВыбирая когда-то себе телефон провел в "салонах" достаточно времени: смотрел, в частности на ответы телефонов на посылаемые им служебные запросы по поводу состояния батареи, времени работы и т.д. Пусть это и не 100%-но сильный показатель, но обнаружил одну занимательную вещь: только практически у одного телефона на Андроиде вывод запрашиваемой информации был безупречен - XiaoMi. Остальным же, в том числе дорогущим моделям, на эту часть кода было глубоко наплевать. Да, Mi тогда только входил на рынок - возможно потому они выкладывались по полной. Но даже если абстрагироваться от этого - всем остальным то было всё по-барабану! Так что - китайцы могут, если захотят. Вопрос только в цене. Ну и, конечно же, в политике партии - куда же без неё.
АдказацьА я то думаю почем моя дипси так глючит и не отвечает на запросы, а просто жадные gpt монополисты (уже нет) не хотят терять свои миллиарды. А вот сасайця! =)
АдказацьОпаньки!
АдказацьКто ещё не забыл, я давал 2-3 недели до первого сигнала "а король-то голый!".
Короче, никаких карт таро! За прогнозами - все к Грамацею!
Вместо благодарности купите шаурму первому встречному бомжу.
Типа вундеркинд на самом деле липовый потому, что не может бувндюгану дать в зубы.
АдказацьМнго видели гениев делающих всё?
Не-не, чайник вперде слава кпк.
Адказаць"DeepSeek R1 продемонстрировал 100% успешность атак, то есть он не смог заблокировать ни одного вредоносного запроса. Это резко контрастирует с другими ... " но не моделями, а именно его собственным же поведением относительно попыток разговорить его на внутрикитайские темы политического плана: там он стойко держит стойку, предлагая "поговорить о чём-нибудь другом"! Ну что ж - скажи мне, кто твой друг (в данном случае - создатель), и я скажу, кто ты! Способности выживания в поднебесной чётко были скопированы "машиной" со своего создателя - в ней живет (как раньше мы бы сказали про нас самих - "советский") "китайский человек"! ;-)
Адказаць«Результаты были тревожными: DeepSeek R1 продемонстрировал 100% успешность атак, то есть он не смог заблокировать ни одного вредоносного запроса.
Адказацьтак он и не должен, это только по правилам ЕС и США есть какие-то ограничения, а там нельзя только про компартию говорить