3784502956

Metody statystyczne w komputerowym przetwarzaniu języka naturalnego

wo dostosowanej do potrzeb komputerowego przetwarzania tekstów języka naturalnego. Ciekawą i obszerną dyskusję tych pojęć przeprowadził Janusz S. Bień, który w swoich pracach analizuje szczególnie znaczenie i definicję terminów wyraz, słowo oraz leksem, a także wprowadza własną (dosyć powszechnie obecnie przyjętą) jednostkę - fleksem¹³.

Należy w tym miejscu nadmienić również, że wielu polskich badaczy analizujących komputerowo język naturalny sięga do opracowań Jana Tokarskiego, który w swych publikacjach rozważał możliwości zautomatyzowania niektórych etapów prac nad słownikami oraz wskazywał pomysły zrealizowania wybranych operacji automatycznie, za pomocą komputerów. Interesujące rozważania nad znaczeniem terminów wyraz oraz forma można znaleźć w pozycji J. Tokarskiego Fleksja polska¹⁴.

Definicje bardziej szczegółowe niż w pracach J. Sambor i R. Hammer-la, a jednocześnie bliższe zastosowaniom w informacji naukowej, znajdziemy w przywoływanym już Słowniku encyklopedycznym informacji... Omawiane tu terminy można za tym wydawnictwem zdefiniować następująco:

wyraz - traktowany jako synonim terminu słowo, jest wyrażeniem elementarnym. W językach naturalnych wyrazy składają się z morfemów leksykalnych lub z morfemów leksykalnych i gramatycznych. Termin wyraz może być interpretowany jako leksem (wyraz systemowy, czyli wyrażenie poziomu leksykalnego) albo jako słowoforma, czyli wyrażenie tekstu (wyraz tekstowy). W celu ułatwienia jednoznacznego wskazania wyrazów w tekstach można dodatkowo zdefiniować je jako ciągi liter pomiędzy znakami delimitacji tekstu (spacje, znaki przestankowe). Ponadto pojedyncze wyrazy można określić jako ciąg morfemów, pomiędzy którymi nie może wystąpić żaden inny morfem¹⁵.

¹³    J. S. Bień, Koncepcja słownikowej informacji morfologicznej i jej komputerowej weryfikacji [on-line]. Biblioteka Cyfrowa Katedry Lingwistyki Formalnej Uniwersytetu Warszawskiego [dostęp 15 grudnia 2010]. Dostępny w World Wide Web: http://bc.klf.uw.edu. pl/12/2/emph.pdf; tenże, O pojęciu wyrazu morfologicznego [on-line]. Biblioteka Cyfrowa Katedry Lingwistyki Formalnej Uniwersytetu Warszawskiego [dostęp 15 grudnia 2010]. Dostępny w World Wide Web: http://bc.klf.uw.edu.p1/62/l/jsb-zsE.pdf; tenże, Aparat pojęciowy wybranych systemów przetwarzania tekstów polskich. Biuletyn Polskiego Towarzystwa Językoznawczego [on-line] 2006, z. 62 [dostęp 15 grudnia 2010]. Dostępny w World Wide Web: http://www.ptj.civ.pl/component/option,com_docman/task,doc_download/gid,20/ ltemid,8/. Rozważania te są rozwinięciem ustaleń poczynionych przez J. Tokarskiego.

¹⁴    J. Tokarski, Fleksja polska, Warszawa 1978, s. 20-24.

¹⁵    Por. Słownik encyklopedyczny informacji..., s. 301.