Искусственный Интеллект

[jsjs]

Там, скорее всего, дело не в оптимальном маршруте, а в том, что все движения телефона по местности фиксируются и собираются, после чего доступны кому надо и тому же ИИ в целях выявления аномалий. Ездил человек каждый день на работу и с работы (в выходные -- на рыбалку и/или в баньку), а тут вдруг внезапно заехал к Лёле с Елоховской. Или даже с Тверской. Уже аномалия. Люди работают:

HAYSTAC aims to establish models of “normal” human movement across times, locations, and people in order to characterize what makes an activity detectable as anomalous within the expanding corpus of global human trajectory data. Success will establish the scientific foundation connecting data, movement, and the expectation of privacy.

https://www.iarpa.gov/research-programs/haystac

[rover]

На человека работника. Он может сам проверить. А ЛЛМ не боится что его уволят, поэтому дает ответ лишь бы дать, без опасений дать неправильный ответ. Опасения, старания, мотивации это человеческие вещи.

Ну так вы в данном случае и есть работник и ваша работа либо самом сделать либо поручить машие и проверить за ней, если так быстрее

ИИ как помощник вообще не вызывает вопросов. Просто продвинутый гугл поиск.

Вызывает вопросы замена человека ИИ.

Например, довольно простые алгоритмы установления диагнозов в медицине. Они простые и стандартные в 80% случаев, и как будто могут быть полностью заменены ИИ, и люди будут этому рады, т.к. стоимость сервиса упадет в разы, скорость сервиса возрастет в разы, удобство увеличится, бюрократия сократится и пр. Но правильно ли это исходя из цены возможной ошибки.

[OtherSide]

Ну так вы в данном случае и есть работник и ваша работа либо самом сделать либо поручить машие и проверить за ней, если так быстрее

ИИ как помощник вообще не вызывает вопросов. Просто продвинутый гугл поиск.

Вызывает вопросы замена человека ИИ.

Например, довольно простые алгоритмы установления диагнозов в медицине. Они простые и стандартные в 80% случаев, и как будто могут быть полностью заменены ИИ, и люди будут этому рады, т.к. стоимость сервиса упадет в разы, скорость сервиса возрастет в разы, удобство увеличится, бюрократия сократится и пр. Но правильно ли это исходя из цены возможной ошибки.

Еще раз - галлюцинации заложены в архитектуру ИИ. Это надо понимать и принимать.
ИИ подходит для задач где проверка дешевле самого решения. Класс таких задач довольно большой.
Тот же ИИ это инструмент врача, не врач сам по себе.

[rover]

ИИ как помощник вообще не вызывает вопросов. Просто продвинутый гугл поиск.

Вызывает вопросы замена человека ИИ.

Например, довольно простые алгоритмы установления диагнозов в медицине. Они простые и стандартные в 80% случаев, и как будто могут быть полностью заменены ИИ, и люди будут этому рады, т.к. стоимость сервиса упадет в разы, скорость сервиса возрастет в разы, удобство увеличится, бюрократия сократится и пр. Но правильно ли это исходя из цены возможной ошибки.

Еще раз - галлюцинации заложены в архитектуру ИИ.

Не знаю насчет "еще", но намеренно закладывать галлюцинации в архитектуру ИИ это спорно (вы бы сказали чушь и бред, но я так не говорю). Галлюцинации это проблемы с которой борются, а не намеренно закладывают в дизайн и архитектуру.

Это надо понимать и принимать.
ИИ подходит для задач где проверка дешевле самого решения. Класс таких задач довольно большой.
Тот же ИИ это инструмент врача, не врач сам по себе.

ИИ как инструмент вообще не вопрос. Человек использует разные инструменты и ИИ лишь один из них, просто новый. Речь о замене естественного искусственным И.

Ключевое слово замена. Не инструмент.

[OtherSide]

Еще раз - галлюцинации заложены в архитектуру ИИ.

Не знаю насчет "еще", но намеренно закладывать галлюцинации в архитектуру ИИ это спорно (вы бы сказали чушь и бред, но я так не говорю). Галлюцинации это проблемы с которой борются, а не намеренно закладывают в дизайн и архитектуру.

Это надо понимать и принимать.
ИИ подходит для задач где проверка дешевле самого решения. Класс таких задач довольно большой.
Тот же ИИ это инструмент врача, не врач сам по себе.

ИИ как инструмент вообще не вопрос. Человек использует разные инструменты и ИИ лишь один из них, просто новый. Речь о замене естественного искусственным И.

Ключевое слово замена. Не инструмент.

Вы в курсе вообще что в арихитектуру ИИ зашит генератор случайных чисел, т.е. хаос? Никто не знает почему, но без него ИИ резко глупеет. Вот вам и архитектура

Про замену ИИ человека это фантазии кретинов. ИИ это вообще не интеллект, а языковая модель. У которой нет сознания, воли, тела и вообще она не сущуствует во времени, не материальна.

[rover]

Не знаю насчет "еще", но намеренно закладывать галлюцинации в архитектуру ИИ это спорно (вы бы сказали чушь и бред, но я так не говорю). Галлюцинации это проблемы с которой борются, а не намеренно закладывают в дизайн и архитектуру.
ИИ как инструмент вообще не вопрос. Человек использует разные инструменты и ИИ лишь один из них, просто новый. Речь о замене естественного искусственным И.

Ключевое слово замена. Не инструмент.

Вы в курсе вообще что в арихитектуру ИИ зашит генератор случайных чисел, т.е. хаос? Никто не знает почему, но без него ИИ резко глупеет. Вот вам и архитектура

Вы сказали "галлюцинации заложены в архитектуру ИИ". Это не так. Это не архитектура это проблема.
Теперь вы говорите "в арихитектуру ИИ зашит генератор случайных чисел, т.е. хаос".
Там много чего "зашито", но проблему с галлюцинациями это не отменяет и не оправдывает.

[rover]

Я думаю что ИИ заменит человека (и человечество), только когда у него будет свой автономный, без участия человека, эволюционный механизм.

Слушал подкаст одного ученого, он сказал что такое в конечном итоге возможно лишь с био-машинерией (ДНК и прочие метохондрии). Т.е. что? Или назад к человеку или к новому биовиду.

[AndrI-0xa]

Я думаю что ИИ заменит человека (и человечество), только когда у него будет свой автономный, без участия человека, эволюционный механизм.

Слушал подкаст одного ученого, он сказал что такое в конечном итоге возможно лишь с био-машинерией (ДНК и прочие метохондрии). Т.е. что? Или назад к человеку или к новому биовиду.

[Пупхен]

Я думаю что ИИ заменит человека (и человечество), только когда у него будет свой автономный, без участия человека, эволюционный механизм.

Слушал подкаст одного ученого, он сказал что такое в конечном итоге возможно лишь с био-машинерией (ДНК и прочие метохондрии). Т.е. что? Или назад к человеку или к новому биовиду.

Заменит - в чем?
И для кого?

[OtherSide]

Вы сказали "галлюцинации заложены в архитектуру ИИ". Это не так. Это не архитектура это проблема.
Теперь вы говорите "в арихитектуру ИИ зашит генератор случайных чисел, т.е. хаос".
Там много чего "зашито", но проблему с галлюцинациями это не отменяет и не оправдывает.

Тут подразумевалось не то, что они специально ошибки добавляют в ответы, а то что само устройство ЛЛМ не предполагает безошибочных ответов, хотя бы потому что там зашит генератор случайных чисел. Но по факту, это не баг, а фича, т.к. добавляет креативности в ответах, которая для многих задач нужна.
Просто когда пользуешься этим инструментом, нужно знать его особенности и понимать что неверные ответы и решения могут быть всегда

Способов с этим жить придумано великое множество, т.к. люди галлюцинируют еще чаще, но при этом бизнес вполне успешно использует их как инструмент, так что опыт в этом деле есть

[Interpolation]

Я думаю что ИИ заменит человека (и человечество), только когда у него будет свой автономный, без участия человека, эволюционный механизм.

Слушал подкаст одного ученого, он сказал что такое в конечном итоге возможно лишь с био-машинерией (ДНК и прочие метохондрии). Т.е. что? Или назад к человеку или к новому биовиду.

Заменит - в чем?
И для кого?

В чем? В существовании.
Для кого? Для самого себя, для ИИ.

Т.е. если ИИ сможет решить проблему поступления энергии для своего собственного существования, то он сможет бесконечно гонять по кругу свои токены-мысли производя "интеллектуальный мусор". Который сам же будет и потреблять.

Человек тоже живет для себя. У него есть биологическое решение поступления энергии.

Человек не знает точно является ли он еще и созданием и дополнительной целью какой-то другой цивилизации. Сам он придумал себе "Бога" или "Богов" для решения собственных проблем. Ему так легче.

Если же Человек является созданием и целью каких-то "инопланетян" и эти "инопланетяне" в конце-концов получат вместо человека ИИ (созданное человеком и заместившего своих создателей), то "инопланетяне" будут делать выводы.

[Ion Tichy]

...там зашит генератор случайных чисел...

Это Вы достоверно знаете и если "да", то откуда? Или это Ваше предположение?

[OtherSide]

...там зашит генератор случайных чисел...

Это Вы достоверно знаете и если "да", то откуда? Или это Ваше предположение?

Пипец, конечно достоверно. Вы как айтишник тоже должны бы знать, это база.

Языковые модели - это симулятор написания книги. Они берут системный (скрытый) промпт, промпт пользователя и данные и статистически смотрят какое слово встречается в книгах чаще. Там идет вероятностное распределение. Причем опытным путем установлено, что если всегда брать следующим словом статистически самое частое, то результат будет хуже. А если подмешивать немного хаоса, то модели почему то умнеют.

Знаю из открытых источников, кучу обучающих курсов разного уровня в сети.

[rona tullia]

По-английски это Pseudo Random Number Generator, то есть это имитация случайности, и процедура эта управляема.

[OtherSide]

По-английски это Pseudo Random Number Generator, то есть это имитация случайности, и процедура эта управляема.

Это детали, которые никак не влияют на сам алгоритм. Суть в том, что там галлюцинации зашиты понятное дело не для специальной генерации бреда, а как неизбежная часть технологии, по типу того как выглопная труба у автомобиля придумана не для того что бы портить экологию, а неотъемлемая часть системы

[rona tullia]

Да. И это не хаос.

[OtherSide]

Да. И это не хаос.

Понятно что это не хаосе в прямом смысле (типа белго шума), а метафора или философская интерпретация
О каком безоговорочном доверии можно говорить про систему которая опирается на вероятности в самом своем устройстве?

[rona tullia]

Необходимые, объяснимые и управляемые вероятности.
Но никто не говорит о безоговорочном доверии. Мы все это время говорили только об ограниченном доверии.

[Пупхен]

Да. И это не хаос.

Понятно что это не хаосе в прямом смысле (типа белго шума), а метафора или философская интерпретация
О каком безоговорочном доверии можно говорить про систему которая опирается на вероятности в самом своем устройстве?

О каком безоговорочном утилитарном доверии можно говорить вообще?
Есть только Вера-Надежда-Любовь - но это из другой оперы.

[Пупхен]

Необходимые, объяснимые и управляемые вероятности.
Но никто не говорит о безоговорочном доверии. Мы все это время говорили только об ограниченном доверии.

Вот да, последняя фраза.