Matn korpusi

Tilshunoslikda korpus (koʻplikda corpora ) yoki matn korpusi katta va tizimlangan matnlar toʻplamidan (hozirgi kunda odatda elektron saqlanadi va qayta ishlanadi) iborat til manbayidir. Korpus tilshunosligida ular muayyan til doirasida statistik tahlillarni amalga oshirish va gipotezani tekshirish, tildagi hodisalarni kuzatish yoki nazariy lingvistik qoidalarni tekshirish uchun foydalaniladi.

Umumiy tasavvur

Korpusda bir tildagi (bir tilli korpus yoki monolingvistik korpus) yoki bir nechta tildagi ( koʻp tilli korpus yoki multilingvistik korpus) matnli ma'lumotlar boʻlishi mumkin.

Korpuslarni lingvistik tadqiqotlar uchun yanada foydali qilish uchun, ular koʻpincha annotatsiya deb nomlanadigan jarayondan oʻtkaziladi. Korpusga izoh berishning misoli soʻz turkumlarini yorliqlash (teglash) yoki POS-yorliqlashdir, unda har bir soʻzning turkumi va shu turkumga tegishli kategoriyalari (fe'l, ot, sifatlar va boshqalar) haqidagi ma'lumotlar teglar (yorliqlar) ko'rinishida korpusga qoʻshiladi. Yana bir misol, har bir soʻzning lemma (oʻzak) shaklini koʻrsatish. Agar korpusning tili uni ishlatadigan tadqiqotchilar ishlaydigan til bo'lmasa, izohni ikki tilli qilish uchun chiziqlararo nashrlash qoʻllaniladi.

Ba'zi korpuslar tahlilning keyingi tizimlangan (strukturalangan) darajalariga ega. Xususan, bir qator kichik korpuslar ham toʻliq tahlil jarayonini amalga oshirishi mumkin. Bunday korpuslar odatda Treebanks yoki Parsed Corpora deb ataladai. Agar korpus toʻliq tizimlangan va toʻliq annotatsiyalangan boʻlsa, katta ehtimol bilan bu korpus kichik hajmga ega - 1-3 million atrofidagi soʻzdan iborat. Chunki korpusni toʻlaqonli tahlil qilib chiqish, hamma annotatsiyalarni amalga oshirish judayam qiyin jarayon hisoblanadi. Morfologiya, semantika va pragmatikaning tahlillarini ham oʻz ichiga olgan korpus yanada rivojlangan, va soʻnggi bosqichga yetib kelgan korpus hisoblanadi.

Ilovalar

Korpora korpus tilshunosligining asosiy bilim va ma'lumot omboridir. Korpus quyidagi muhim sohalarda ham qoʻllaniladi:

• Til texnologiyasi, tabiiy tilni qayta ishlash, kompyuter tilshunosligi
  • Turli korpuslarni qayta ishlash va tahlil qilish jarayoni, shuningdek, kompyuter tilshunosligi, nutqni aniqlash va mashina tarjimasida ham koʻplab mavzularni oʻz ichiga oladi, bu yerda koʻpincha nutq yorligʻi (nutqiy teglash) va boshqa maqsadlar uchun yashirin Markov modellarini yaratishda foydalaniladi. Korpus va ulardan olingan chastotalar roʻyxati tilni oʻqitish uchun foydalidir. Korpus chet tilida yozish ishlarida yordam berishning bir turi sifatida qaralishi mumkin, chunki foydalanuvchining ona tilisi boʻlmagan tillarning korpuslari asl matnlar orqali olingan kontekstual grammatik bilimlar manbayidir. Ulardan maqsadli foydalanib jumlalarni tuzish, matnlarni shakllantirishda samarali foydalanish mumkin.

• Mashina tarjimasi
  • Yonma-yon taqqoslash uchun maxsus formatlangan koʻp tilli korpuslar tizimlangan parallel korpus deyiladi. Ikki tildagi matnlarni oʻz ichiga olgan parallel korpusning ikki asosiy turi mavjud. Tarjima korpusi - bir tildagi matnlar boshqa tilga tarjima qilingan matnlar korpusi. Taqqoslanadigan korpus - matnlar janri va tarkibiga koʻra bir xil, ammo ular bir-birlarining tarjimalari emas. Parallel matnlardan foydalanish uchun matn segmentlarini (iboralar, yoki jumlalarni) identifikatsiyalash va matn turlari va janrlarini oʻzari moslashtirish, muvofiqlashtirish eng birinchi shartlardan hisoblanadi. Ikki til oʻrtasida Ikki til oʻrtasida tarjima qilish ishlarini amalga oshirish uchun mashina tarjimasi algoritmlari koʻpincha birinchi til korpusining elementli tarjimasi boʻlgan birinchi til korpusi va ikkinchi til korpusidan tashkil topgan parallel qismlar yordamida amalga oshiriladi.
• Filologiya
  • Matn korpusi tarixiy hujjatlarni (tarixiy matnlarni) oʻrganishda, masalan, qadimiy yozuvlarni ochishda yoki kotiblik fanida ham qoʻllaniladi. Ba'zi arxeologik korpuslar qisqa muddat davomida yashashi mumkin, ular oʻz vaqtida suratga olishni ta'minlaydi. 15-30 yillik Amarna harflari matnlari ( mil . Avv . 1350 ), eng qisqa korpuslardan biri boʻlishi mumkin. Qadimgi shaharning korpusi (masalan, Turkiyaning " Kültepe matnlari"), ularning topilgan joy sanasi boʻyicha saralanadigan bir nechta korpus orqali paydo boʻlishi mumkin.

Shuningdek koʻrishingiz mumkin

• Konkordans
• Korpus tilshunosligi
• Lingvistik ma'lumotlar konsorsiumi
• Tabiiy tilga ishlov berish
• Tabiiy tillar uchun vositalar to'plami
• Matnni parallel ravishda tizimlash
• Qidiruv tizimlari : ular "veb-korpus" ga kirishadi.
• Nutq korpusi
• Tarjima xotirasi
• Daraxtsimon tizim
• Zipf qonuni

Tashqi havolalar

• ACL SIGLEX manba manbalari: Text Corpora
• Lingvistik korporani rivojlantirish: yaxshi amaliyot uchun qo'llanma
• Bepul namunalar (bepul emas), veb-korpus (har biri 45-425 million so'z): Amerika (COCA, COHA, TIME), Britaniya (BNC), ispan, portugal
• Charlz universitetining san'at fakultetida o'qitiladigan Interkorp Binolarning sinxron parallel parallel korpori.
• Sketch dvigateli: bepul kirish imkoniyati bo'lgan ochiq korpora
• TS Corpus - akademik tadqiqotlar uchun bemalol mavjud bo'lgan Turk Corpus.
• Turkish National Corpus - zamonaviy turklarning umumiy maqsadli korpusi
• Gonkong Baptistlar Universiteti Kutubxonasi tomonidan taqdim etilgan AQSh, Gonkong, Tayvan va Xitoyning nutqlari bilan ommaga tanishtiriladigan siyosiy nutqlar korpusi.
• Rossiya milliy korpusi