Project Madurai
Project Madurai corpus contains a treasure trove of Tamil data across many generations and inflections of Tamil language. Using this data I post-processed the files in project உளி வீரன்.
Data
We are able to look at data from Project Madurai e-Texts. Currently 4,036,616 total words – 40 lakh plus words – in ‘plain_text’ folder which contains unigram data and bigram data at word level. One may use open-tamil library to: – discover the unigram word-frequency of this corpus – discover the bi-gram word-frequency of this corpus (since successive words occur in successive lines).
Morse Code for Madurai Corpus
Using the techniques laid out in earlier blog post on Morse Code we are able to regenerate the Morse Code for Tamil using additional data.
Average code word length = 6.65456 bits. Morse code for Tamil using Madurai corpus is displayed below [most frequently occurring symbols to least] – i.e. in descending order.
- க -> ..---
- ன் -> .--.-
- ம் -> .-..-
- த -> ----.
- த் -> ---.-
- க் -> --..-
- வ -> -.---
- ர் -> -.-.-
- ல் -> ....-.
- து -> ...--.
- ரு -> ...-.-
- ப -> ..--.-
- ந் -> ..-...
- தி -> ..-.--
- ப் -> .-----
- கு -> .---..
- ய -> .--..-
- ம -> .-.--.
- ட -> --...-
- ற் -> --.---
- அ -> --.-..
- வி -> --.-.-
- ர -> -...--
- டு -> -...-.
- ன -> -..---
- ங் -> -..-..
- ண் -> -.-...
- ட் -> .....--
- கி -> .....-.
- ள் -> ....---
- ல -> ...---.
- டி -> ...-...
- ற -> ..--..-
- யி -> .----.-
- று -> .---.--
- மு -> .--....
- தா -> .--...-
- இ -> .-....-
- மா -> .-.-..-
- பு -> .-.-.-.
- ய் -> -------
- கா -> ------.
- ரி -> -----.-
- யா -> ---....
- வா -> ---..--
- றி -> --.....
- சி -> -.....-
- லை -> -..--..
- ச் -> -..--.-
- ச -> -..-.--
- யு -> -..-.-.
- பி -> -.--...
- பா -> -.--.--
- உ -> -.-..--
- எ -> -.-..-.
- னை -> ......--
- டை -> ....--..
- ள -> ...-----
- கொ -> ...-..--
- செ -> ..--....
- ளி -> ..-..---
- ந -> ..-..--.
- ண -> ..-.-...
- லி -> ..-.-.--
- லா -> ..-.-.-.
- னி -> .----...
- நி -> .---.-..
- போ -> .-......
- னா -> .-...--.
- வே -> .-...-.-
- வு -> .-.-----
- கை -> .-.----.
- னு -> .-.---..
- தை -> .-.---.-
- மை -> .-.-...-
- மி -> .-.-.---
- ரை -> .-.-.--.
- ளை -> -----...
- ழி -> ---...--
- ஆ -> ---...-.
- லு -> ---..-..
- ழு -> --....--
- பெ -> --....-.
- றை -> --.--...
- பொ -> --.--.--
- நா -> --.--.-.
- ஞ் -> -......-
- ரா -> -....---
- தே -> -....-..
- ணி -> -....-.-
- ழ -> -.--..--
- சு -> -.--..-.
- றா -> -.--.-.-
- ழ் -> ........-
- வெ -> .......-.
- மே -> ......-..
- டா -> ......-.-
- ளு -> ...----.-
- வை -> ...-..-.-
- தெ -> ..--...--
- யை -> ..-..-..-
- கூ -> .----..--
- ஒ -> .----..-.
- யே -> .---.-.--
- தோ -> .---.-.-.
- சா -> .-.....-.
- தொ -> .-...---.
- மெ -> .-...-..-
- நீ -> .-.-....-
- கோ -> -----..--
- கே -> --.--..--
- சை -> -........
- பே -> -.......-
- சொ -> -....--.-
- லே -> -.--.-...
- யெ -> -.--.-..-
- ளா -> .........-
- னே -> .......---
- ஏ -> ....--.---
- வீ -> ....--.--.
- பூ -> ....--.-.-
- சே -> ...----...
- யோ -> ...-..-..-
- ழை -> ..--...-.-
- நெ -> ..-..-....
- தீ -> ..-..-.--.
- ணை -> ..-..-.-.-
- வ் -> ..-.-..--.
- மூ -> .-...-----
- றே -> .-...-...-
- மொ -> .-.-.....-
- கெ -> -----..-.-
- ணு -> ---..-.--.
- ஓ -> ---..-.-..
- சூ -> --.--..-..
- தூ -> -....--...
- ரே -> .......--..
- னெ -> .......--.-
- மோ -> ....--.-..-
- பை -> ...----..--
- சீ -> ...----..-.
- மீ -> ...-..-...-
- ணா -> ..--...-...
- டே -> ..-..-...-.
- ஊ -> ..-..-.----
- னோ -> ..-..-.---.
- ளே -> ..-..-.-..-
- வோ -> ..-.-..----
- சோ -> ..-.-..---.
- நே -> ..-.-..-...
- ரெ -> ..-.-..-..-
- லோ -> ..-.-..-.--
- ஸ் -> ..-.-..-.-.
- லெ -> .-.....---.
- நோ -> .-.....--..
- யொ -> .-...----..
- ரோ -> .-...-.....
- ஈ -> .-...-....-
- றோ -> .-.-.......
- நு -> .-.-......-
- றெ -> ---..-.----
- நூ -> ---..-.---.
- கீ -> -....--..-.
- ஞா -> ............
- ஐ -> ..........--
- ஷ -> ..........-.
- ழா -> ...-..-.....
- டெ -> ..--...-..-.
- வொ -> ..-..-...---
- ளெ -> ..-..-...--.
- ஜ -> ..-..-.-....
- றொ -> .-.....-----
- ளோ -> .-.....--.--
- னொ -> .-.....--.-.
- டோ -> .-...----.--
- யூ -> -----..-....
- ஷ் -> -----..-...-
- பீ -> ---..-.-.---
- றீ -> ---..-.-.--.
- லொ -> ---..-.-.-.-
- ரொ -> --.--..-.---
- ரீ -> --.--..-.-..
- ரூ -> ...........--
- ஞ -> ....--.-.....
- னீ -> ....--.-...--
- டொ -> ...-..-....--
- ணீ -> ...-..-....-.
- யீ -> ..--...-..---
- டீ -> ..--...-..--.
- வூ -> .-.....----.-
- ணெ -> .-...----.-.-
- ஸ -> -----..-..--.
- ஜா -> -----..-..-.-
- லீ -> --.--..-.--..
- ணே -> --.--..-.-.--
- னூ -> --.--..-.-.-.
- லூ -> -....--..----
- நொ -> -....--..--..
- ஃ -> -....--..--.-
- ளொ -> ...........-.-
- ங -> ....--.-...-..
- றூ -> ..-..-.-...-..
- ணோ -> ..-..-.-...-.-
- ஜ் -> .-.....----...
- டூ -> .-...----.-...
- ஹ -> -----..-..----
- ஷி -> -----..-..-..-
- நை -> ---..-.-.-...-
- ஹா -> ---..-.-.-..--
- ளீ -> --.--..-.--.-.
- ளூ -> -....--..---.-
- ழீ -> ...........-..-
- ஜி -> ....--.-....--.
- ஸி -> ....--.-....-..
- ழே -> ....--.-...-.-.
- ஞை -> ..-..-.-...----
- கௌ -> ..-..-.-...--.-
- மௌ -> .-.....----..--
- ணொ -> .-...----.-..--
- சௌ -> .-...----.-..-.
- ஸா -> -----..-..---.-
- ஷா -> -----..-..-...-
- ஜெ -> ---..-.-.-.....
- வௌ -> ---..-.-.-....-
- ஷை -> ---..-.-.-..-..
- ஜோ -> --.--..-.--.---
- ஜீ -> --.--..-.--.--.
- ழெ -> -....--..---...
- ஷே -> -....--..---..-
- ணூ -> ....--.-....----
- ஜை -> ....--.-....---.
- ஹி -> ....--.-....-.--
- பௌ -> ....--.-...-.---
- ஔ -> ..-..-.-...---..
- ஞெ -> ..-..-.-...--...
- ழூ -> .-.....----..-.-
- ழோ -> -----..-..---..-
- ழொ -> -----..-..-....-
- ஸு -> ---..-.-.-..-.--
- ஹோ -> ...........-.....
- ஜு -> ...........-...--
- ஷு -> ...........-...-.
- ஞீ -> ....--.-....-.-..
- ஹ் -> ..-..-.-...---.-.
- தௌ -> ..-..-.-...---.--
- ஸை -> ..-..-.-...--..--
- ஜே -> ..-..-.-...--..-.
- ஸீ -> -----..-..---...-
- ஞி -> -----..-..-.....-
- ஸூ -> ...........-....--
- ஜொ -> ....--.-....-.-.--
- ஹு -> ....--.-...-.--...
- ஹை -> ....--.-...-.--..-
- ஹீ -> ....--.-...-.--.--
- ஸெ -> .-.....----..-....
- ஜூ -> .-.....----..-...-
- ரௌ -> .-.....----..-..-.
- ஹே -> -----..-..---.....
- ஸே -> -----..-..-.......
- யௌ -> ---..-.-.-..-.-...
- ஷூ -> ---..-.-.-..-.-..-
- ஹூ -> ---..-.-.-..-.-.--
- ஹெ -> ...........-....-..
- ஞூ -> ...........-....-.-
- ஸோ -> ....--.-...-.--.-..
- ஞே -> .-.....----..-..---
- ஷீ -> -----..-..---....--
- ஷோ -> -----..-..-......--
- ஷெ -> -----..-..---....-.
- ஹொ -> ---..-.-.-..-.-.-..
- ஞோ -> ---..-.-.-..-.-.-.-
- ஸௌ -> ....--.-....-.-.-...
- டௌ -> ....--.-....-.-.-.--
- லௌ -> ....--.-....-.-.-.-.
- ஞு -> ....--.-...-.--.-.--
- நௌ -> .-.....----..-..--.-
- ஙு -> -----..-..-......-..
- ஹௌ -> ....--.-....-.-.-..-.
- ஸொ -> .-.....----..-..--...
- னௌ -> ....--.-...-.--.-.-.-
- ஙொ -> ....--.-...-.--.-.-..
- ஞௌ -> .-.....----..-..--..-
- ஞொ -> ....--.-....-.-.-..---
- ஙா -> -----..-..-......-.---
- ஙே -> -----..-..-......-.-..
- ளௌ -> ....--.-....-.-.-..--..
- ஷொ -> -----..-..-......-.-.--
- ழௌ -> -----..-..-......-.--..
- ஙூ -> -----..-..-......-.-.-.
- ஷௌ -> -----..-..-......-.--.--
- றௌ -> -----..-..-......-.--.-.
- ஙோ -> ....--.-....-.-.-..--.--
- ஙி -> ....--.-....-.-.-..--.-.
We are able to say this Morse code book is a better representation of Tamil since it finds 290 letters incident of the 323 letters in Grantha + Tamil letter set generated from the Madurai corpus of 4 million words.