Πολυμεσικότητα και Πολυγλωσσία

Transcript

1 Πολυμεσικότητα και Πολυγλωσσία Οι σύγχρονες περιπέτειες της τεχνολογίας περιεχομένου Στέλιος Πιπερίδης ΙΕΛ

2 "The vision I have for the Web is about anything being potentially connected with anything. It is a vision that provides us with new freedom, and allows us to grow faster than we ever could.... it brings the workings of society closer to the workings of our minds." Tim Berners-Lee : Weaving the Web, 2000 European citizens should be able to watch or listen to audiovisual content anytime, anywhere and on all technical platforms (TVset, computer, mobile phone, personal digital assistant, etc.) European Commission i2010 initiative) 2

3 Πραγματικότητα και Όραμα Music Drama News / TeleText Cinema Educational The Web / Dig. Libraries Personal Digital Images and Video TV / Satellite TV Radio Music/Voice Video/Text Video/Text/ Images Home/Office PC Stereo Music/Voice Video/Text/ Ima ges/music Pers. Entertainment System Local Repositor y E - book Reader Laptop PDA Car Entertainment System Pers. Entertainment System 3

4 Στόχοι τεχνολογίας ανάλυσης πολυμεσικού περιεχομένου ανάπτυξη συστημάτων επεξεργασίας περιεχομένου με σκοπό να βοηθήσουμε τους πολίτες να αντιμετωπίσουν την έκρηξη του ψηφιακού περιεχομένου που διατίθεται από διαφορετικές πλατφόρμες (radio, TV, World Wide Web), διαφορετικά μέσα (φωνή (speech), κείμενο (text), εικόνα (image), video) και διαφορετικές γλώσσες ανάπτυξη τεχνολογίας για την σημασιολογική ευρετηρίαση/δεικτοδότηση, κατηγοριοποίηση, περίληψη και διασύνδεση πολυμεσικού, πολυγλωσσικού περιεχομένου 4

5 Σενάρια χρήσης WEB Content Aggregator TV Delivery Multimedia technology Search archive Radio Media Archive TV, Radio, Web data Συστήματα που παρέχουν υπηρεσίες : Ανάκτησης πολυμεσικής και πολυγλωσσικής πληροφορίας (pull) Φιλτραρίσματος πολυμεσικής και πολυγλωσσικής πληροφορίας (push) User User profile Web Mobile Πρόσβαση μέσω κινητού τηλεφώνου και διαδικτύου Local Archive 5

6 Μονομεσικά μεταδεδομένα κείμενο: όροι/λέξεις-κλειδιά, ονόματα (π.χ. ονόματα ανθρώπων, τόπων, οργανισμών, θέματα (topics) και γεγονότα (facts/events)) φωνή: φωνή/άλλοι ήχοι, ομιλητές (speakers), φωνητική μεταγραφή και «ιστορίες» video και εικόνες: πρόσωπα, keyframes και κατηγορίες 6

7 Διαμεσικότητα (cross-mediality) Συγκέντρωση και συγχρονισμός (time-alignment) μονομεσικών μεταδεδομένων Συγκέντρωση, συγκριτική αξιολόγηση και εκτίμηση εμπιστοσύνης/βεβαιότητας της ορθότητας/ακρίβειας των μονομεσικών δεδομένων Συγκέντρωση, σύγκριση και εφαρμογή μηχανισμών συμπερασμού (inference mechanisms) Χρήση πολυμεσικών οντολογιών Διαμεσικότητα εντός του ίδιου πολυμεσικού «εγγράφου», αλλά και μεταξύ διαφορετικών πολυμεσικών «εγγράφων» 7

8 Διαμεσικότητα (Cross-mediality) στην πολυμεσική ανάλυση μεταξύ διαφορετικών πολυμεσικών εγγράφων Διαφορετικές πηγές αναφέρονται στην ίδια πληροφορία/θέμα εντός του ίδιου πολυμεσικού εγγράφου Διαφορετικά μέσα χρησιμοποιούνται για την δημιουργία και μεταφορά μηνύματος εντός του ίδιου «εγγράφου» (ήχος, κείμενο, εικόνα, video) Source A TV Broadcast Source B Radio Broadcast Single Source TV Broadcast Audio (Speech/Music) News on Elections News on Elections Video Vidoe/Images Text First Interpretation Second Interpretation 8

9 Διαμεσικότητα στην πολυμεσική ανάλυση εντός του ίδιου πολυμεσικού «εγγράφου» Διαφορετικά μέσα χρησιμοποιούνται για την δημιουργία και μεταφορά μηνύματος εντός του ίδιου «εγγράφου» (ήχος, κείμενο, εικόνα, video) Διαμεσική (cross-media) ευρετηρίαση/δεικτοδότηση χειρισμός μη ακριβών και συνεπών δεικτών (imprecisions & inconsistencies) επεξεργασία, σύγκριση αξιολόγηση μονομεσικών μεταδεδομένων Διαμεσική κατηγοριοποίηση προσθήκη κατηγοριών στα μεταδεδομένα επεξεργασία κειμένου και εικόνων 9

10 Διαμεσικότητα στην πολυμεσική ανάλυση εντός του ίδιου πολυμεσικού «εγγράφου» Διαφορετικά μέσα χρησιμοποιούνται για την δημιουργία και μεταφορά μηνύματος εντός του ίδιου «εγγράφου» (ήχος, κείμενο, εικόνα, video) Διαμεσική περίληψη προσθήκη περίληψης στα μεταδεδομένα επεξεργασία video και κειμένου παρουσίαση σημαντικών τμημάτων video+κειμένου+ήχου χρησιμοποιώντας content/domain specific multimedia discourse grammars 10

11 Διαμεσικότητα στην πολυμεσική ανάλυση μεταξύ διαφορετικών πολυμεσικών εγγράφων Διαφορετικές πηγές αναφέρονται στην ίδια πληροφορία/θέμα Σημασιολογική ανάκτηση ανάκτηση διαφορετικών πολυμεσικών εγγράφων ως απάντηση σε μια συγκεκριμένη ερώτηση περίληψη πολλαπλών πoλυμεσικών εγγράφων 11

12 Αρχιτεκτονική επεξεργασίας πολυμεσικού περιεχομένου text radio tv Media Manager Cross-media Content Analysis and Indexing; Categorisation; Summarisation; Translation Smart Content Media Server User Interfaces 12

13 web radio tv Media Manager video text TPC - text processing text audio SPC - audio processing IAC - video segmentation and image processing keyframe s FDIC - face analysis XML metadata named entities, terms, events XML metadata speaker turns, speakers, text XML Merging Segment Unification Story Boundary Detection XML metadata shotcuts, keyframes, image features XML metadata faces cross-media stories story-based text/image analysis Smart Content Media Server 13

14 cross-media story text, named entities, terms, events, speakers, faces, image features keyframes story-based text/image analysis Topic Detection CMIC Cross-Media Indexing Cross-Media Categorisation Visual Summary Textual Summary Translation Smart Content 14

15 Media Server Smart Content Media Server Storage Personalisation Browsing Querying Retrieval Push Notifications Query Translation other Web Services for Content Aggregators Layman User Interface Professionals User Interface 15

16 Παραδείγματα μονομεσικής και πολυμεσικής ανάλυσης Speech recognition Speech in Recognition EN Image in EL Face detection Categorisation Fact extraction Fact in extraction EN Cross-media in EL Cross-media indexer Categorisation Text Textual Scenes and visual Cross-media summari s summarisation summarisation in EN in EL Query Translation Cross-lingual Retrieving document stories translation 16

17 Δομή εγγράφων και μοντέλα Anchor Reportage Interview Reportage Interview Reportage History Lifestyle Landscape History Fight against Terrorism Arms Embargo.. Human Rights 17

18 Τηλεοπτικές ειδήσεις : συστατικά Θέματα Ιστορίες A A R R I R I R Τμήματα Anchor Reportage Interview 18

19 Τηλεοπτικές ειδήσεις BBC 2005/05/09 10:00 BBC 2005/05/09 10:00 (Translated) BBC 2005/05/11 22:00 BBC 2005/05/11 22:00 (Translated) 19

20 Euro-Parliament Sessions : ανάλυση EbS PLENARY 2005/04/27 15:00 Fight against Terrorism Arms Embargo.. Human Rights 20

21 Euro-Parliament Sessions δομή & περιεχόμενο Session T 1 T 1 T 1 T 2 T 2 T 1 T 3 T 4 T 5 S1 S2 S3 S1 S4 S4 S1 S5 S1 T 5 S2 Regions Topic 1 Topic 2 Topic 3 Topic 4 Topic 5 Speakers S1 S3 S2 S4 S1 S4 S1 S5 S1 S2 21

22 Euro-parliament Sessions Plenary 2005/04/27 15:00 Plenary 2005/04/27 15:00 Plenary 2005/04/27 15:00 (Translated) 22

23 Ταξιδιωτικές εκπομπές: ανάλυση BestOfGreece-DG-EN - Chapter: Athens History Lifestyle Landscape History 23

24 Ταξιδιωτικές εκπομπές: συστατικά Story P 1 C 1 C2 Chapter P 2 C 1 P 3 C 2 P 4 C 2 P 5 C 3 P 6 C 1 P 7 C 1 Thematic Categories C1 C2 C3 C1 Regions C1 C2 C3 24

25 Ταξιδιωτικές εκπομπές Athens DG - EN Best Of Greece DG - EN 25

26 Κίνδυνοι και διαχείρισή τους τεχνικά Μη διαθέσιμα δεδομένα εκπαίδευσης και αξιολόγησης Χρήση υπαρχόντων δεδομένων εκπαίδευσης, κατασκευή μικρών συλλογών δεδομένων αξιολόγησης Χαμηλή επίδοση συστήματος αναγνώρισης φωνής, που δεν επιτρέπει σημασιολογική επεξεργασία Χρήση τεχνικών στοίχισης (alignment) ή priming γλωσσικών μοντέλων με βάση το script/σενάριο 26

27 Κίνδυνοι και πιθανές λύσεις τεχνικά Εξαγωγή υψηλού επιπέδου σημασιολογικών μεταδεδομένων μη εφικτή σε μεγάλη κλίμακα Χρήση επιφανειακής σημασιολογικής πληροφορίας, π.χ. ονόματα, όροι, θεματικές κατηγορίες Γνωστά προβλήματα μηχανικής μετάφρασης πιθανώς εντονότερα σε περίπτωση μη ύπαρξης κατάλληλων μεταφραστικών πόρων Χρήση τεχνικών αντικατάστασης όρων και επίκληση σεναρίων gisting 27

28 Μελλοντικά βήματα Πέρα από την πρόδηλη ανάγκη βελτίωσης της τεχνολογίας αυτόματης εξαγωγής μονομεσικών μεταδεδομένων... Έρευνα διαμεσικών/πολυμεσικών τεχνικών για παραγωγή πολυμεσικών εγγράφων Διαμεσική και διαγλωσσική ευρετηρίαση/δεικτοδότηση και ανάκτηση πολυμεσικού περιεχομένου Ανάλυση διαμεσικών σχέσεων με στόχο την καλύτερη ανάλυση και κατανόηση επικοινωνιακών μηχανισμών και μηνυμάτων Διερεύνηση διαμεσικών μεθόδων στο πλαίσιο ρομποτικών και γνωσιακών συστημάτων Διαμεσικές τεχνικές για καλύτερη προσομοίωση των διεργασιών κατάκτησης γλώσσας και γνώσης 28