Искусственный интеллект, нейросети
167,947
975
|
folk ( Слушатель ) |
| 23 сен 2023 11:06:50 |
перевод ИИ
новая дискуссия Дискуссия 285
Вопрос. Я так понимаю что перевод при помощи ИИ основан на скармливании ему при обучении большого корпуса переводов.
Подозреваю что для большого эффекта использовались и тексты из интернетов. Не обсуждаю как оно там было по качеству.
Но вот в чем вопрос. Для усовершенствований надо снова проводить обучение по всему корпусу - вроде как инкрементального обучения не существует. Но часть из "интернетов" уже содержит огромный процент переводов ИИ.
В нормальном подходе такие переводы не должны быть использованы при обучении. Но вот как их отбраковать - не понятно.
Если кто в теме - прокомментируйте пожалуйста.
Подозреваю что для большого эффекта использовались и тексты из интернетов. Не обсуждаю как оно там было по качеству.
Но вот в чем вопрос. Для усовершенствований надо снова проводить обучение по всему корпусу - вроде как инкрементального обучения не существует. Но часть из "интернетов" уже содержит огромный процент переводов ИИ.
В нормальном подходе такие переводы не должны быть использованы при обучении. Но вот как их отбраковать - не понятно.
Если кто в теме - прокомментируйте пожалуйста.
Отредактировано: folk - 23 сен 2023 11:07:36
ОТВЕТЫ (8)
|
|
gb ( Слушатель ) |
| 23 сен 2023 12:42:35 |
Сообщение удалено
gbooth
25 сен 2023 19:13:40
gbooth
25 сен 2023 19:13:40
Отредактировано: gbooth - 25 сен 2023 19:13:40
|
Поверонов ( Слушатель ) |
| 23 сен 2023 13:56:03 |
Цитата: folk от 23.09.2023 11:06:50
существуют огромные оцифрованные объемы профессионально переведенной литературы - они и скармливались
|
|
gb ( Слушатель ) |
| 23 сен 2023 14:33:59 |
Сообщение удалено
gbooth
25 сен 2023 19:13:38
gbooth
25 сен 2023 19:13:38
Отредактировано: gbooth - 25 сен 2023 19:13:38
|
|
Поверонов ( Слушатель ) |
| 23 сен 2023 15:33:55 |
Цитата: gbooth от 23.09.2023 14:33:59
так не только перевод - там все модели посредственные, но как их сделать лучше никто не знает.
LLM генерируют наиболее вероятное продолжение то есть самое банальное. А от банальщины не стоит ожидать откровений
|
|
gb ( Слушатель ) |
| 23 сен 2023 15:51:24 |
Сообщение удалено
gbooth
25 сен 2023 19:13:35
gbooth
25 сен 2023 19:13:35
Отредактировано: gbooth - 25 сен 2023 19:13:35
|
|
psv ( Слушатель ) |
| 23 сен 2023 21:06:08 |
Цитата: gbooth от 23.09.2023 15:51:24
Глупости, любая генеративная модель считаем максимум качества для предложения (а то и большего куска) в целом. По пути естественно перебирает все варианты каждого слова.
|
|
gb ( Слушатель ) |
| 23 сен 2023 21:29:55 |
Сообщение удалено
gbooth
25 сен 2023 19:13:34
gbooth
25 сен 2023 19:13:34
Отредактировано: gbooth - 25 сен 2023 19:13:34
|
|
psv ( Слушатель ) |
| 23 сен 2023 21:51:05 |
Цитата: gbooth от 23.09.2023 21:29:55
Нет. Любая часть "в целом" оптимальной цепочки может быть сколь угодно (ну конечно в пределах выбранных ибо растет глубина перебора) не оптимальна.