Огляд поєднання алгоритмів обробки природних мов та навчання з підкріпленням
DOI:
https://doi.org/10.17721/1812-5409.2024/1.25Ключові слова:
обробка природної мови, навчання з підкріпленням, робототехніка, комп'ютерний зірАнотація
Інтеграція обробки природної мови та навчання з підкріпленням останнім часом є актуальним предметом дослідження, оскільки вона має потенціал для підвищення якості роботи різних застосувань, починаючи з розуміння та генерації мови, і закінчуючи діалоговими системами й автономними агентами. Залучення RL в алгоритми NLP поліпшує виконання завдань, пов'язаних з мовою, даючи змогу адаптуватися і навчатися від взаємодій та зворотного зв'язку. Ця інтеграція виявляється цінною у сценаріях, де розуміння та генерація мови потребують динамічних і контекстно-залежних відповідей, що сприяє підвищенню реальної продуктивності. Для дослідження особливостей поєднання алгоритмів обробки природних мов і навчання з підкріпленням було застосовано такі методики, як аналіз та порівняння. Поєднання алгоритмів обробки природної мови та навчання з підкріпленням забезпечує найсучасніші результати у виконанні багатьох завдань, пов'язаних зі штучним інтелектом. Ця тема є перспективною галуззю досліджень для застосувань на основі NLP, що, імовірно, призведе до значного поліпшення якості наявних рішень.
У пропонованій статті досліджено виклики та можливості в поєднанні обробки природної мови та навчання з підкріпленням. Крім того, проаналізовано вплив застосування різних парадигм RL на продуктивність алгоритмів NLP та поєднання NLP і RL у складніших системах, таких як навігація у симульованому або реальному світі, що також передбачає використання підсистем комп'ютерного зору. Окрім огляду наявних результатів досліджень, у роботі визначено потенційні напрямки для майбутніх досліджень і розробок у цій галузі.
Посилання
Sutton, Richard S., and Andrew G. Barto. Reinforcement learning: An introduction. MIT press, 2018. https://web.stanford.edu/class/psych209/Readings/SuttonBartoIPRLBook2ndEd.pdf
Uc-Cetina, Victor, et al. "Survey on reinforcement learning for language processing." Artificial Intelligence Review 56.2 (2023): 1543-1575. https://arxiv.org/abs/2104.05565
Paulus, Romain, Caiming Xiong, and Richard Socher. "A deep reinforced model for abstractive summarization." (2017). https://arxiv.org/abs/1705.04304
Xiong, Caiming, Victor Zhong, and Richard Socher. "Dcn+: Mixed objective and deep residual coattention for question answering." https://arxiv.org/abs/1711.00106
Li, Jiwei, et al. "Deep reinforcement learning for dialogue generation.” https://arxiv.org/abs/1606.01541
Mnih, Volodymyr, et al. "Playing atari with deep reinforcement learning." https://arxiv.org/abs/1312.5602
Xiong, Caiming, Victor Zhong, and Richard Socher. "Dynamic coattention networks for question answering." https://arxiv.org/abs/1611.01604
Goodfellow, Ian, et al. "Maxout networks." International conference on machine learning. PMLR, 2013. https://arxiv.org/abs/1302.4389
Srivastava, Rupesh K., Klaus Greff, and Jürgen Schmidhuber. "Training very deep networks." Advances in neural information processing systems 28 (2015). https://arxiv.org/abs/1507.06228
Brown, Tom, et al. "Language models are few-shot learners." (2020) https://arxiv.org/abs/2005.14165
Radford, Alec, et al. "Improving language understanding by generative pre-training." (2018). https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf
Anisimov, A.V., Marchenko, O.O. & Zemlianskyi, V.R. Evolutionary Method of Constructing Artificial Intelligence Systems. Cybern Syst Anal 55, 1–9 (2019). https://doi.org/10.1007/s10559-019-00106-x
Anisimov, A.V., Marchenko, A.A. & Zemlianskyi, V.R. Influence of Language on the Lifespan of Populations of Artificial Intelligence. Cybern Syst Anal 57, 669–675 (2021). https://doi.org/10.1007/s10559-021-00392-4
Ammanabrolu, Prithviraj, et al. "How to motivate your dragon: Teaching goal-driven agents to speak and act in fantasy worlds." https://arxiv.org/abs/2010.00685
Colas, Cédric, et al. "Language as a cognitive tool to imagine goals in curiosity driven exploration." Advances in Neural Information Processing Systems 33 (2020): 3761-3774. https://arxiv.org/abs/1711.07280
Hemachandra, Sachithra, et al. "Learning models for following natural language directions in unknown environments." https://arxiv.org/pdf/1503.05079.pdf
Matuszek, Cynthia. "Grounded language learning: Where robotics and nlp meet (invited talk)." https://www.acl web.org/anthology/D18-1355.pdf
Anderson, Peter, et al. "Vision-and-language navigation: Interpreting visually-grounded navigation instructions in real environments." Proceedings of the IEEE conference on computer vision and pattern recognition. 2018. https://par.nsf.gov/servlets/purl/10066404
Rennie, Steven J., et al. "Self-critical sequence training for image captioning." Proceedings of the IEEE conference on computer vision and pattern recognition. 2017. https://arxiv.org/abs/1612.00563
Завантаження
Опубліковано
Номер
Розділ
Ліцензія
Авторське право (c) 2024 Ruslan Pravosud
Ця робота ліцензується відповідно до ліцензії Creative Commons Attribution 4.0 International License.
Автори, роботи яких публікуються у цьому журналі, погоджуються з такими умовами:
- Автори зберігають авторські права та надають журналу право на першу публікацію роботи, яка одночасно ліцензується згідно із Creative Commons Attribution License, тобто надається дозвіл іншим ділитися роботою з визнанням авторства роботи та першої публікації в цьому журналі.
- Автори можуть укладати окремі додаткові угоди щодо невиключного розповсюдження опублікованої журналом версії роботи (наприклад, розмістити її у репозитарії наукової установи чи опублікувати у книзі) з підтвердженням її початкової публікації у цьому журналі.
- Дозволяється та заохочується розміщення своїх робіт в мережі Інтернет авторами (наприклад, у репозитаріях наукових установ або на особистих веб-сторінках) до та під час процесу подання, оскільки це може призвести до продуктивного обміну, а також до більш ранніх цитувань опублікованої роботи та їх більшої кількості (див. The Effect of Open Access).
