Garis waktu paralel: munculnya model bahasa besar - AWS Bimbingan Preskriptif

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Garis waktu paralel: munculnya model bahasa besar

Sementara kerangka kerja agen berkembang, revolusi paralel dan konvergen terjadi dalam pemrosesan bahasa alami dan pembelajaran mesin:

  • 2017 - transformer: The paper Attention Is All You Need (Vaswani et al. 2017) memperkenalkan arsitektur transformator, yang secara dramatis meningkatkan cara mesin memproses dan menghasilkan bahasa.

  • 2022 - ChatGPT: OpenAI merilis antarmuka berbasis obrolan ke GPT-3.5 yang disebut ChatGPT, yang memungkinkan percakapan interaktif alami dengan sistem AI tujuan umum.

  • 2023 - open source LLMs: Rilis Llama, Falcon, dan Mistral membuat model yang kuat dapat diakses secara luas dan mempercepat pengembangan kerangka kerja agen di lingkungan open source dan perusahaan.

Inovasi ini mengubah model bahasa menjadi mesin penalaran yang mampu mengurai konteks, merencanakan tindakan, dan merantai respons, dan LLMs menjadi pendukung utama agen perangkat lunak cerdas.