Claude Shannon:Ο πατέρας της θεωρίας της πληροφορίας

10 07 2009

 Αναδημοσίευση από: http://www.physics4u.gr/articles/shannon.html

Άρθρο, 30 Απριλίου 2001

shannonΠριν 85 έτη, 30 Απριλίου του 1916, γεννήθηκε ένας σπουδαίος Αμερικανός επιστήμονας και στοχαστής. Ο άνθρωπος που κατά τη δεκαετία του ’40, θεμελίωσε την θεωρία της πληροφορίας και ανέδειξε την πληροφορία σε μετρήσιμο μέγεθος. Έθεσε έτσι τα θεμέλια για τα τηλεπικοινωνιακά δίκτυα και με αυτόν τον τρόπο βοήθησε να αναπτυχθεί η σημερινή Κοινωνία της Πληροφορίας. Είναι μεγάλη ειρωνεία το γεγονός ότι ένα τόσο κοφτερό, γόνιμο και πολυδουλεμένο μυαλό τα τελευταία χρόνια προσβλήθηκε από τη νόσο του AΙzheimer και πέθανε στις 24 Φεβρουαρίου του 2001.

Αποφοίτησε το 1936, από το Πανεπιστήμιο του Michigan, παίρνοντας δύο πτυχία του Μαθηματικού και του Ηλεκτρολόγου Μηχανικού. Τις μεταπτυχιακές του σπουδές τις έκανε στο ΜΙΤ, όπου είχε σαν καθηγητή και τον Norbert Wiener (που ήταν ο πρώτος που χρησιμοποίησε τη λέξη Κυβερνητική).

Ο πρύτανης του τμήματος Μηχανολογίας την εποχή εκείνη, όρισε τον Shannοn υπεύθυνο για τη λειτουργία μιας δύσχρηστης υπολογιστικής συσκευής, που είχε κατασκευάσει ο ίδιος και είχε ονομάσει «διαφορικό αναλυτή».   Εκείνος δε άρχισε να σκέφτεται τρόπους βελτίωσής του, ενδεχομένως με τη χρήση ηλεκτρικών κυκλωμάτων στη θέση των δύσχρηστων μηχανικών μερών.

Ο CΙaυde Shannοn δεν άργησε να σκεφθεί ότι η άλγεβρα του Boole που είχε διδαχθεί ως προπτυxιακός φοιτητής είχε πολλά κοινά στοιχεία με ένα ηλεκτρικό κύκλωμα. Το επόμενο λογικό βήμα ήταν να σχεδιάσει συστήματα κυκλωμάτων, σύμφωνα με τις αρχές που είχε διατυπώσει ο Βοοle στα μέσα του 18ου αιώνα.

Σε μια διατριβή του, με τίτλο «Α SymbοΙic Analysis οf Relay and Switching Circυίts», ο Shannοn περιέγραψε με ποιο τρόπο η λογική του Bοοle, σύμφωνα με την οποία όλα τα προβλήματα μπορούν να λυθούν με τη χρήση μόλις δύο συμβόλων, του 1 και του 0, μπορούσε να εφαρμοστεί στα ηλεκτρικά διακοπτόμενα κυκλώματα.

Το σύμβολο 1 μπορούσε να αντιπροσωπεύει ένας διακόπτης που είχε ενεργοποιηθεί, ενώ το 0 μπορούσε να είναι ένας διακόπτης που είχε απενεργοποιηθεί.

Υποστήριξε επίσης ότι οι διακόπτες αυτοί θα μπορούσαν να συνδέονται με τρόπο που να τους επιτρέπει να εκτελούν και πιο πολύπλοκες πράξεις, προτείνοντας πέρα από τις απλές δηλώσεις «ναι» και «όχι», τη χρήση του «και» , του «ή» ή του «δεν».

Η παραπάνω διατριβή του Shannοn, ο οποίος οραματίστηκε όλες τις μορφές επικοινωνίας σε δυαδικό κώδικα και υποστήριξε την άποψη ότι τα δυαδικά ψηφία μπορούν να συμβολίσουν ακόμα και λέξεις, ήχους, εικόνες, ίσως και ιδέες, χαρακτηρίστηκε μία από τις σημαντικότερες του 20ού αιώνα, ξεπερνώντας σε αξία ακόμα και τη προηγούμενη διατριβή του ίδιου για το διδακτορικό του, με θέμα «Μια άλγεβρα για τη θεωρητική γενετική».  Σε αυτήν την διατριβή θεωρούσε πως η διπλή έλικα του DNA σποτελεί ένα πληροφοριακό σύστημα.

Το 1941 προσλήφθηκε στην BeΙΙ ΤeΙeρhοne Labοratοries, όπου αρχικά ασχολήθηκε με συστήματα ελέγχου αντιαεροπορικών πυραύλων και στη συνέχεια έγινε μέλος μιας ομάδας επιστημόνων που ανέλαβε να αναπτύξει πιο αποτελεσματικές μεθόδους μετάδοσης των πληροφοριών και να βελτιώσει την αξιοπιστία των υπεραστικών τηλεφωνικών και τηλεγραφικών γραμμών.

Ο Shannοn πίστευε ότι η πληροφορία δεν διέφερε από οποιοδήποτε άλλο μέγεθος και κατά συνέπεια ήταν δυνατός ο χειρισμός της από μηχανές. Εφαρμόζοντας τα αποτελέσματα των προηγούμενων ερευνών του στο πρόβλημα που είχε να αντιμετωπίσει, χρησιμοποίησε και πάλι τη λογική του ΒοοΙe, καθώς και την εμπειρία του στην κρυπτο / αποκρυπτογράφηση κατά τη διάρκεια του πολέμου, για να αναπτύξει ένα μοντέλο που απλοποιούσε όσο το δυνατόν περισσότερο την πληροφορία.

Ενα δυαδικό σύστημα από δυνατότητες επιλογής ναι/όχι που μπορούσε να αντιπροσωπεύεται από δυαδικό κώδικα 1/0. Πρότεινε επίσης την προσθήκη στην πληροφορία μιας σειράς από ειδικούς κώδικες κατά τη διάρκεια της μετάδοσής της, με στόχο να ελαχιστοποιούνται τα παράσιτα (θόρυβος) που έχουν ως αποτέλεσμα την αλλοίωσή της.

Η ΘΕΩΡΙΑ ΤΗΣ ΠΛΗΡΟΦΟΡΙΑΣ

Πρώτος ο Hartley όρισε έμμεσα την ποσότητα της πληροφορίας, το 1928. Ένα χρόνο αργότερα ο Szilard συνέδεσε την πληροφορία και την Θερμοδυναμική Εντροπία.

Το 1940 ο Shannon ξαναβρήκε τα ίδια αποτελέσματα με αφορμή τις τηλεποικινωνίες. Η καθαυτό όμως θεωρία της πληροφορίας αναπτύχθηκε από τους Wiener («Θεωρία για την διεύθυνση και επικοινωνία, στη μηχανή ή στο ζώο») το 1948 και ακολούθως από τον Shannon.

Το 1948 ο Shannοn δημοσίευσε την αξεπέραστη εργασία του, με τίτλο «Η μαθηματική θεωρία της πληροφορίας». Ήταν ο πρώτος που έκανε την πρώτη ολοκληρωτική μαθηματική απόπειρα θεμελίωσης της Θεωρίας της Πληροφορίας. Στις σελίδες αυτής της εργασίας, την οποία συνυπογράφει ο μαθηματικός Warren Weaνer, γίνεται λόγος για πρώτη φορά για μια μονάδα μέτρησης της πληροφορίας, το δυαδικό ψηφίο, το binary digit, που συντμήθηκε αργότερα από επιστήμονες του χώρου αρχικά σε binit και στη συνέχεια στο γνωστό μας bit.

Έχουμε συνηθίσει να σκεφτόμαστε την «πληροφορία» ή το «μήνυμα» ως γεγονότα, δεδομένα, μαρτυρίες. Σύμφωνα όμως με τη θεωρία της πληροφορίας, πληροφορία είναι αυτό που δεν γνωρίζει κάποιος. Αν κάποιος ακούσει πως «Αύριο θα βρέχει στο κέντρο της Αθήνας», το μήνυμα αυτό, έχει μεγάλη πληροφορία, γιατί είναι ένα αβέβαιο γεγονός.

Αν όμως ακούσει κάποιος πως «στην Ευρώπη αύριο θα βρέχει», τότε το κείμενο αυτό έχει πολύ μικρή πληροφορία. Γιατί στο μήνυμα αυτό η πιθανότητα να βρέχει κάπου στην Ευρώπη είναι πολύ μεγάλη, ίσως αγγίζει και το 100%.

Επομένως η πληροφορία συνδέεται με την αβεβαιότητα. Όσο μικρότερη είναι η πιθανότητα Ρ να γίνει ένα γεγονός, τόση περισσότερη ποσότητα πληροφορίας Ι συνοδεύει την πραγματοποίηση του. Και αντίστροφα, αν η πιθανότητα Ρ πραγματοποίησης ενός γεγονότος είναι μεγάλη, τότε η πληροφορία Ι που «κουβαλάει» το γεγονός αυτό είναι μικρή. Αν λοιπόν ο παραλήπτης έχει ήδη την πληροφορία, δεν μπορεί να πει κανείς ότι έλαβε χώρα μετάδοση μηνύματος.

Η πληροφορία Ι συνδέεται με την πιθανότητα Ρ με την σχέση:  Ι=-log2PA ή Ι=log2(1/p).  
Η μορφή αυτή μας δίνει την γνωστή μονάδα ποσότητας πληροφορίας, το bit. Αν έχουμε μια απλή πηγή που εκπέμπει δύο σύμβολα μόνο, τότε αν και τα δύο είναι ισοπιθανά ισχύει , pa=pb=1/2, και Ι=1 ή Ι=1 bit.

Σύμφωνα με τη θεωρία του Shannοn, περισσότερα bits πληροφορίας παίρνει κανείς από ένα μήνυμα, αν είναι μεγαλύτερη και η αβεβαιότητα που κουβαλάει το μήνυμα, γιατί αυτή η αβεβαιότητα είναι αντιστρόφως ανάλογη με την πιθανότητα Ρ να συμβεί όπως αναφέραμε πιό πάνω.

ΕΝΤΡΟΠΙΑ

Ένα από τα σημαντικότερα στοιχεία όμως του έργου του Shannοn είναι ότι παρέχει στους μηχανικούς τα μαθηματικά εργαλεία που απαιτούνται για τη μέτρηση της απόδοσης ενός καναλιού επικοινωνίας, πόση πληροφορία δηλαδή μπορεί να ξεκινήσει από το σημείο Α και να φθάσει στο σημείο Β χωρίς σφάλματα. Η επιθυμητή πληροφορία είναι το «σήμα». Η ανεπιθύμητη είναι τα «παράσιτα» ή ο «θόρυβος».

Ο Shannon είδε πως όσο λιγότερο θόρυβο έχει ένα σύστημα τόση περισσότερη πληροφορία μεταδίδει. Και αντιστρόφως, όσο αυξάνεται η αταξία (θόρυβος) ενός συστήματος τόσο λιγότερη πληροφορία μεταδίδει. Θα μπορούσαμε να πούμε πως η πληροφορία του συστήματος αποτελεί μέτρο της εσωτερικής του τάξης (δηλ. αντιστρόφως ανάλογη με την αταξία, αλλά η εντροπία είναι το μέτρο της αταξίας ενός συστήματος, άρα η πληροφορία είναι αντιστρόφως ανάλογη της εντροπίας).   

Ο αριθμός των πιθανών μηνυμάτων που μπορεί κανείς να δημιουργήσει με S αριθμό bits είναι 2 στη δύναμη του S, δεδομένου ότι έχουμε δύο bits, το 1 και το 0.

Αντιστρέφοντας την ιδέα, ο αριθμός των bits που χρειάζεται κανείς για να μεταδώσει ένα μήνυμα είναι ο λογάριθμος με βάση το 2 του αριθμού των πιθανών μηνυμάτων.
2S=P  ή λογαριθμίζοντας Ιοg2 P = S

Στην αξία του S ο Shannοn έδωσε το όνομα «εντροπία«. Η εντροπία αναφέρεται σε μια κατάσταση ενός φυσικού συστήματος, ενώ συγχρόνως αποτελεί μέτρο της αταξίας του συγκεκριμένου συστήματος. Η αταξία δεν είναι τελείως αντικειμενική ιδιότητα. Ο ανθρώπινος παράγοντας δεν μπορεί να την αποκλείσει τελείως, γιατί η ιδέα της τάξης είναι άρρηκτα συνδεδεμένη με τη λειτουργία του νου.

Το εντυπωσιακό με την εξίσωση του Shannοn για την εντροπία της πληροφορίας είναι ότι εμφανίζει την ίδια σχέση με την εξίσωση του BοΙtzmann (S=klnP) για την εντροπία στη θερμοδυναμική (δεύτερος νόμος), μια σχέση λογαριθμική.

Από τον ορισμό του Boltzmann και του Shannon για την πιθανότητα, S=klnP και Ι=-log2PA,

είναι έκδηλη η ομοιότητα των σχέσεων ορισμού της πληροφορίας και της εντροπίας. Βλέπουμε δηλαδή πως ενώ η εντροπία μετράει το βαθμό αταξίας και αυξάνει με την πιθανότητα, η πληροφορία ουσιαστικά μετράει το βαθμό της τάξης μέσα στη δομή του μηνύματος και ελαττώνεται με την πιθανότητα.
Αυτός είναι βασικά και ο λόγος  που βάζουμε Ι=-S και που συχνά αναφέρουμε την πληροφορία Ι σαν αρνητική εντροπία S (αντετροπία-negentropie).

Ο Shannοn δεν προσπάθησε να εξαλείψει την αταξία, τα παράσιτα. Μας δίδαξε πώς να ζούμε με αυτά ή ακόμα και να τα αξιοποιούμε. Μπορεί κανείς να χρησιμοποιήσει την εντροπία για να διαπιστώσει τι μέρος του καναλιού μπορεί να χρησιμοποιηθεί για τη μετάδοση χρήσιμης πληροφορίας – του σήματος.

Η εντροπία της θερμοδυναμικής συνεπάγεται τη φθορά. Αν θεωρήσουμε δεδομένο ότι το σύμπαν είναι ένα κλειστό σύστημα, κάθε φορά που συμβαίνει κάτι, ολόκληρο το σύστημα ολισθαίνει προς την αύξηση της εντροπίας. Η ίδια η ζωή όμως στη Γη συνεισφέρει στην μείωση της εντροπίας, ενώ στο σύμπαν  η εντροπία αυξάνεται. Στη θεωρία της πληροφορίας, όσο μικρότερη είναι η εντροπία τόσο περισσότερη είναι και η πληροφορία… άρα και η αβεβαιότητα.

Αυτό σημαίνει μήπως, αναρωτιούνται κάποιοι, ότι όσο περισσότερα γνωρίζουμε τόσο περισσότερο αβέβαιοι είμαστε;
Το γεγονός ότι η πληροφορία ολοένα αυξάνει σημαίνει ότι απομακρυνόμαστε ολοένα και περισσότερο από τη δυνατότητα να κατανοήσουμε το σύμπαν;

Πέντε χρόνια μετά την έκδοση της θεωρίας της πληροφορίας του Shannοn, οι James Watsοn και Francis Crick αποκάλυψαν τα μυστικά του DNA στο εργαστήριο Caνendish του Cambridge. Διαπιστώθηκε ότι η διπλή έλικα του DNA αποτελούσε ένα πληροφοριακό σύστημα Ο ίδιος ο Shannοn, παρ’ όλο που προειδοποιούσε με δημοσιεύματα τους εργαζόμενους σε άλλα πεδία να είναι επιφυλακτικοί και να μην εφαρμόζουν τη θεωρία των πληροφοριών αδιακρίτως, παραδέχθηκε ότι η θεωρία θα μπορούσε να έχει μεγάλη σχέση με τον τρόπο με τον οποίο λειτουργούν τα γονίδια και το νευρικό σύστημα και άφησε ανοιχτό το ενδεχόμενο «το ανθρώπινο ον να δρα ως ένας ιδανικός αποκωδικοποιητής».

Ο Monod μας λέει πως τα ένζυμα ασκούν σε μικροσκοπική κλίμακα, μια λειτουργία που δημιουργεί τάξη, δημιουργεί πληροφορία σε βάρος του χημικού δυναμικού.

Ο Shannon διετύπωσε μια διάσημη σχέση για την χωρητικότητα C ενός καναλιού, στον οποίο φαίνεται καθαρά η σχέση μεταξύ εύρους ζώνης συχνοτήτων Β και λόγου σήματος προς θόρυβο. C=Blog(1+S/N) bits/sec

Γεγονός είναι ότι η θεωρία της πληροφορίας που διατύπωσε ο CΙaude Shannοn ξεκίνησε την ψηφιακή επανάσταση που οδήγησε στην ανάmυξη και την εδραίωση νέων μέσων επικοινωνίας – μεταξύ των οποίων και το Ιnternet. Χρησιμοποιήθηκε επίσης για να λυθούν γρίφοι σε γνωστικούς τομείς τόσο διαφορετικούς μεταξύ τους όσο η πληροφορική, η γενετική μηχανική, τα νευρωνικά συστήματα, η γλωσσολογία, η φωνητική, η ψυχολογία και τα οικονομικά Μεταξύ άλλων άνοιξε νέους δρόμους στη μελέτη του Χάους και έφερε το Διάστημα πιο κοντά στον άνθρωπο.

Από τη στιγμή ωστόσο που διατύπωσε τα θεωρήματά του, η Φύση δεν μπορεί πια να ιδωθεί μόνο σαν ύλη και ενέργεια. Μία τρίτη συνιστώσα προστέθηκε στην προσπάθεια εξήγησης του κόσμου: η πληροφορία.

Βιβλιογραφία:
1. Θεωρία της Πληροφορίας και Φυσικές Επιστήμες: Κ.Καρούμπαλος
2. Περιοδικό Computer για Ολους. Τεύχος Απριλίου 2001
3. Κυβερνητική και Διαλεκτικός Υλισμός: Jacques Guillaumaud
4.Κυβερνητική:Norbert Wiener





Το βέλος του χρόνου, η πληροφορία και η εντροπία

10 07 2009

Αναδημοσίευση από: http://www.physics4u.gr/articles/2008/time_arrow.html

Το βέλος του χρόνου, η πληροφορία και η εντροπία

Άρθρο, Σεπτέμβριος 2008

Η εντροπία ενός συστήματος είναι μια ιδιότητα του ίδιου του συστήματος. Είναι ένα μέτρο του πόσο οργανωμένο είναι το ίδιο το σύστημα. Μετρείται σε bits. Ένα bit είναι η ποσότητα της πληροφορίας που χρειαζόμαστε για να αποφασίσουμε μεταξύ δύο δυνατοτήτων ίσης πιθανότητας.

Για παράδειγμα, η ρίψη ενός νομίσματος έχει δύο πιθανές εκβάσεις. Είτε κορώνα, είτε γράμματα. Ένα bit πληροφορίας είναι η πληροφορία που πρέπει να διαθέτουμε για να γνωρίζουμε ποιο ακριβώς γεγονός από τα δύο συνέβη. Αν ήρθε δηλαδή κορώνα ή γράμματα.

Ο Claude E. Shannon έδειξε σ’ ένα θεμελιώδες θεώρημα, ότι το περιεχόμενο από άποψη πληροφορίας ενός συστήματος, είναι ο ελάχιστος αριθμός των bits που χρειάζονται για να κωδικοποιηθεί στο δυαδικό σύστημα, η πλήρης στατιστική περιγραφή του συστήματος. Η έννοια της εντροπίας τώρα, είναι στενά συνδεδεμένη, με την έννοια της πληροφορίας. Η εντροπία ενός συστήματος μετράει την απροσδιοριστία που έχει η στατιστική περιγραφή ενός συστήματος. Θα μπορούσε να πει κάποιος ότι εντροπία και πληροφορία αποτελούν συμπληρωματικές όψεις για τη στατιστική περιγραφή του ίδιου συστήματος.

Μια μαθηματική περιγραφή της παραπάνω διαπίστωσης μας λέει ότι αν Η και Ι είναι οι πραγματικές τιμές της εντροπίας και της πληροφορίας ενός συστήματος για συγκεκριμένες συνθήκες, τότε το άθροισμά τους οφείλει να παραμένει σταθερό, αφού όσο αυξάνεται η πληροφορία για ένα σύστημα, τόσο μειώνεται η εντροπία του. Αν Hmax και Imax είναι οι μέγιστες τιμές που μπορεί να πάρει η εντροπία και η πληροφορία για τις ίδιες συνθήκες, τότε ισχύει:

H+I = σταθ. = Hmax= Imax

Ας δούμε ένα παράδειγμα. Ας υποθέσουμε ότι ένα σύστημα υπό συγκεκριμένες συνθήκες μπορεί να βρεθεί σε μια από οκτώ (23) πιθανές καταστάσεις. Καθεμιά από αυτές θα μπορούσε να κωδικοποιηθεί στο δυαδικό σύστημα με τις ταμπελίτσες 000, 001, 010, 011, 100, 101, 110, και 111.

Ο προσδιορισμός μιας συγκεκριμένης εξ αυτών, π.χ. εκείνης με την ταμπελίτσα 101, απαιτεί τρία δυαδικά ψηφία, δηλαδή τρία bits. Τόση είναι η πληροφορία (3 bits), που σχετίζεται με την περιγραφή: «το σύστημα βρίσκεται σίγουρα στην κατάσταση 101».

Στην περίπτωση αυτή, η απροσδιοριστία δηλ. η εντροπία που σχετίζεται με την περιγραφή αυτή είναι προφανώς μηδέν.

Στην αντίθετη περίπτωση όπου δεν έχουμε καθόλου πληροφορία για την κατάσταση του συστήματος, θα έπρεπε να αποδώσουμε ίσες πιθανότητες σε καθεμιά από τις οκτώ δυνατές καταστάσεις. Στην περίπτωση αυτή η πληροφορία είναι μηδέν. Επειδή το άθροισμα της πληροφορίας και της εντροπίας του συστήματος είναι σταθερό, η εντροπία του συστήματος πρέπει να είναι τώρα ίση με τρία bits.

Γενικεύοντας, μπορούμε να πύμε ότι αν ένα σύστημα έχει 2r δυνατές καταστάσεις, όπου r είναι ένας ακέραιος, η μέγιστη ποσότητα της πληροφορίας ή της εντροπίας για το σύστημα αυτό είναι ίση με τον λογάριθμο βάσης 2 του αριθμού 2r , δηλαδή είναι ίση με r.  

Hmax = Imax = log22r = r.

Όταν αναφερόμαστε σε πραγματικά συστήματα, μπορεί μεν ο αριθμός των δυνατών καταστάσεων να είναι πολύ μεγάλος αλλά είναι πεπερασμένος. Ο μέγιστος αριθμός των δυνατών καταστάσεων και συνεπώς η μέγιστη ποσότητα πληροφορίας σύμφωνα με τα παραπάνω, περιορίζεται από την αρχή της απροσδιοριστίας. Σύμφωνα με αυτήν δεν μπορούμε να καθορίσουμε τη θέση και την ορμή ενός σωματιδίου με ακρίβεια μεγαλύτερη από αυτή που επιβάλλει η αρχή απροσδιοριστίας. Συνεπώς, κάθε πεπερασμένο φυσικό σύστημα μπορεί να περιγραφεί πλήρως με πεπερασμένη ποσότητα πληροφορίας.

Ένα πολύ γνωστό νοητό πείραμα

Ας υποθέσουμε ότι σε μια γωνιά ενός δωματίου όπου δεν υπάρχουν ρεύματα αέρα, ανοίγουμε ένα μπουκαλάκι που περιέχει άρωμα. Λίγο αργότερα, ένας παρατηρητής που βρίσκεται στην απέναντι γωνία του δωματίου, μπορεί να βεβαιώσει ότι έφθασε στη μύτη του η μυρωδιά του αρώματος. Τα μόρια του αρώματος έχουν προφανώς διαφύγει από την επιφάνεια του υγρού, και έχουν ακολουθήσει πολύπλοκα ζιγκ-ζαγκ έπειτα από αλλεπάλληλες συγκρούσεις με άλλα μόρια, και έχουν φτάσει στην άλλη άκρη του δωματίου. Αν περιμένουμε αρκετά, όλο το άρωμα θα εξατμιστεί και τα μόριά του θα βρεθούν διασκορπισμένα ομογενώς σε όλο το χώρο του δωματίου. 

Time_A1

Τόσο η εμπειρία μας όσο και ο δεύτερος θερμοδυναμικός νόμος λένε ότι η διαδικασία αυτή είναι μη αντιστρεπτή. Όσο και να περιμένουμε δηλαδή, τα μόρια του αρώματος δεν θα ξαναμπούν ποτέ αυθόρμητα μέσα στο μπουκαλάκι.

Κατ’ αρχήν όμως ένα τέτοιο γεγονός δεν απαγορεύεται να συμβεί από κάποιον θεμελιώδη νόμο της φυσικής. Ας φανταστούμε ότι όλο το πείραμα καταγράφεται στις μικροσκοπικές λεπτομέρειες των συγκρούσεων των μορίων σε ένα βίντεο, Στο βίντεο αυτό θα βλέπαμε ένα συγκεκριμένο μόριο να διαφεύγει από το υγρό και μετά από ένα τεράστιο πλήθος συγκρούσεων που του αλλάζουν τη θέση και την ταχύτητά του, να βρίσκεται σ’ ένα απομακρυσμένο από το μπουκάλι, μέρος του δωματίου.

Αν παρακολουθούσαμε το βίντεο αυτό κατά την αντίθετη φορά της ταινίας, θα βλέπαμε τα μόρια του αρώματος να διαγράφουν τις αντίθετες πορείες ζιγκ-ζαγκ και να συγκεντρώνονται μέσα στο μπουκαλάκι και να ξαναγίνονται υγρό.

Το κάθε μόριο, είτε την εμπρόσθια πορεία του βίντεο παρακολουθούμε, είτε την ανάδρομη, υπακούει σε όλους τους νόμους της φυσικής, οι οποίοι άλλωστε έχουν συμμετρική μορφή ως προς την αναστροφή του χρόνου.

Γιατί τότε είμαστε απρόθυμοι να δεχτούμε ότι η ανάδρομη χρονικά εξέλιξη του βίντεο μπορεί να παριστάνει ένα πραγματικό φυσικό γεγονός;

Μια συνηθισμένη απάντηση στην παραπάνω ερώτηση είναι ότι στην ανάδρομη προβολή του φιλμ, η αρχική κατάσταση είναι εξαιρετικά ειδική.  Στην αρχή της ανάδρομης προβολής καθένα από τον τεράστιο αριθμό των μορίων βρίσκεται σε μια τροχιά η οποία θα οδηγήσει τελικά στη σύγκλιση όλων των μορίων σ’ ένα μικρό μέρος του χώρου, στο μπουκαλάκι με το άρωμα, αποκλειομένων όλων των άλλων περιοχών του δωματίου. Μια τέτοια κατάσταση είναι εξαιρετικά απίθανη και το γεγονός αυτό θεωρείται ως επαρκής εξήγηση για την μη αντιστρεψιμότητα των θερμοδυναμικών διεργασιών. 

Τι είναι όμως αυτό που κάνει τις συγκεκριμένες αρχικές συνθήκες τόσο απίθανες;

Ο χώρος των φάσεων

Για να συζητήσουμε το ερώτημα αυτό χρειαζόμαστε μια κατάλληλη μέθοδο αναπαράστασης της δυναμικής κατάστασης ενός συστήματος που περιέχει ένα τεράστιο αριθμό σωματιδίων.

Η δυναμική κατάσταση ενός μεμονωμένου σωματιδίου περιγράφεται πλήρως από τη θέση και την ταχύτητά του. Για να εκφραστούν αυτές οι ποσότητες χρειάζονται τρεις αριθμοί (συντεταγμένες) για τη θέση και τρεις αριθμοί (συνιστώσες της ταχύτητας στους τρεις άξονες χ, y, z).  Συνολικά λοιπόν, το κάθε σωματίδιο χρειάζεται 6 αριθμούς για να περιγραφεί η δυναμική του κατάσταση.  Μπορούμε να φανταστούμε τους 6 αυτούς αριθμούς σαν τις 6 συνιστώσες  ενός σημείου, σ’ ένα χώρο 6 διαστάσεων. Ο υποθετικός αυτός χώρος είναι ο χώρος των φάσεων του ενός σωματιδίου. Καθώς το σωματίδιο κινείται μέσα στον πραγματικό χώρο των τριών διαστάσεων, το σημείο που το αντιπροσωπεύει στον 6-διάστατο χώρο των φάσεων, διαγράφει μια καμπύλη. Αν γνωρίζουμε τη θέση και την ταχύτητα του σωματιδίου κάποια στιγμή, μπορούμε να προβλέψουμε όλη την υπόλοιπη κίνησή του με όση ακρίβεια επιθυμούμε.  Με άλλα λόγια, η δυναμική ιστορία του σωματιδίου καθορίζεται πλήρως από τις αρχικές του συνθήκες θέσης και ταχύτητας.

Ομοίως, στο χώρο των φάσεων η καμπύλη που διαγράφεται προσδιορίζεται από τη γνώση του αρχικού σημείου της καμπύλης.

Να σημειωθεί ότι η τροχιά που διαγράφεται στο χώρο των φάσεων, δεν μπορεί να τέμνεται με τον εαυτό της ή να διακλαδίζεται σε κάποιο σημείο, αν και δεν απαγορεύεται να είναι μια κλειστή καμπύλη. Αν η καμπύλη στο χώρο των φάσεων τεμνόταν με τον εαυτό της, τότε την κατάσταση του σημείου τομής ή διακλάδωσης, θα την διαδέχονταν περισσότερες της μιας καταστάσεις και η δυναμική ιστορία του σωματιδίου δεν θα ήταν πλήρως καθορισμένη.

Μπορούμε να χρησιμοποιήσουμε την ίδια τεχνική για να περιγράψουμε ένα κλειστό σύστημα που περιέχει πολλά σωματίδια. Έστω ότι περιέχει n σωματίδια. Τότε η δυναμική κατάσταση του συστήματος καθορίζεται από 6n αριθμούς. Οι αριθμοί αυτοί θα είναι τώρα οι συντεταγμένες ενός σημείου στο χώρο φάσεων των 6n διαστάσεων. Το κάθε σημείο του χώρου αυτού, προσδιορίζει την κατάσταση ολόκληρου του συστήματος.. Και στην περίπτωση αυτή, η δυναμική ιστορία του συστήματος προσδιορίζεται με μια καμπύλη στο χώρο των φάσεων, η οποία είναι πλήρως και μοναδικά καθορισμένη αν γνωρίζουμε το αρχικό της σημείο.

Λόγω των συγκρούσεων και των άλλων αλληλεπιδράσεων μεταξύ των σωματιδίων, η καμπύλη που διαγράφει το σύστημα στο χώρο των φάσεων μπορεί να έχει ένα περίπλοκο και ακανόνιστο σχήμα αλλά πάλι δεν μπορεί να διακλαδίζεται ή να τέμνεται με τον εαυτό της.

Η διάχυση των μορίων του αρώματος στο νοητό πείραμά μας, παριστάνεται στο χώρο των φάσεων  των 6n διαστάσεων (όπου n είναι ο αριθμός των μορίων, της τάξης του 6×10^20), από μια μοναδική τροχιά. Κάθε σημείο αυτής της τροχιάς προκύπτει ως συνέπεια του προηγούμενου σημείου, και σύμφωνα με τους νόμους της φυσικής, η όλη τροχιά είναι πλήρως αντιστρεπτή.

Time_A2

Η μέχρι τώρα ανάλυση του νοητού αυτού πειράματος στο χώρο των φάσεων, δείχνει να μην αφήνει περιθώρια για την ύπαρξη ενός βέλους του χρόνου προς τα εμπρός. Η περιγραφή όμως αυτή είναι εξωπραγματικά ακριβής. Προϋποθέτει τόση πολλή ποσότητα πληροφορίας για το σύστημα όση δεν μπορούμε ποτέ να έχουμε σε πραγματικές συνθήκες. Με άλλα λόγια δεν μπορούμε να γνωρίζουμε τις ακριβείς θέσεις και ταχύτητες για 6×10^20 μόρια του αρώματος, έστω και εντός των περιορισμών της αρχής απροσδιοριστίας. Το μόνο που γνωρίζουμε είναι ότι όλα τους βρίσκονταν αρχικά  μέσα στον μικρό όγκο του μπουκαλιού. Αυτό έχει ως αποτέλεσμα ότι δεν μπορούμε να καθορίσουμε τις ακριβείς συντεταγμένες του συστήματος στο χώρο των φάσεων. Το μόνο που μπορούμε να πούμε είναι ότι το σημείο που εκφράζει το σύστημά μας στο χώρο των φάσεων, πρέπει να βρίσκεται εντός ενός μικρού όγκου (ή καλύτερα υπερ-όγκου) στο χώρο των 6n διαστάσεων.

Για την αναπαράσταση της εξέλιξης της πληροφορίας, ας αντικαταστήσουμε το σημείο στο χώρο των φάσεων με μια μικρή σφαίρα από ένα φανταστικό υγρό που γεμίζει ομοιόμορφα τον μικρό υπερ-χώρο ο οποίος αντιστοιχεί στην πραγματική γνώση που έχουμε για τη θέση και την ορμή των μορίων. Το φανταστικό αυτό υγρό παριστάνει την πιθανότητα, και η μάζα του υγρού που βρίσκεται σε κάθε μια μικρή περιοχή του χώρου των φάσεων παριστάνει την πιθανότητα να βρίσκεται η δυναμική κατάσταση του συστήματος σε κάποιο σημείο εντός αυτής της περιοχής του χώρου των φάσεων.

 Time_A1

Η σειρά των εικόνων (a,b,cd) δείχνει την πιθανοτική αναπαράσταση ενός συστήματος που αποτελείται από πάρα πολλά σωμάτια. Η πιθανότητα παριστάνεται ως ένα μπαλονάκι γεμάτο υγρό στο χώρο των φάσεων. Η μάζα του υγρού σε κάθε περιοχή εκφράζει την συνολική πιθανότητα να βρίσκεται το σημείο που παριστάνει την κατάσταση του συστήματος εντός της συγκεκριμένης περιοχής. Στο πείραμα με τα μόρια του αρώματος όλο το υγρό(πιθανότητα) βρίσκεται αρχικά σε ένα μικρό όγκο, όσο τα μόρια είναι περιορισμένα εντός του μπουκαλιού. Πρόκειται στην πραγματικότητα για μια υπερσφαίρα  στις 6n διαστάσεις, όπου n είναι ο αριθμός των μορίων, η οποία παριστάνεται εδώ σαν μια απλή τρισδιάστατη σφαίρα (a). Καθώς το σύστημα εξελίσσεται, το υγρό που παριστάνει την πιθανότητα μεταναστεύει σε πιο απομακρυσμένες περιοχές του χώρου των φάσεων, αλλά επειδή οι τροχιές όλων των σωματιδίων είναι πλήρως καθορισμένες, το υγρό αυτό είναι ασυμπίεστο, δεν διαστέλλεται ο όγκος του σαν να ήταν αέριο. Αντίθετα, εμφανίζονται διάφορες προεξοχές, εικόνα (b), οι οποίες γίνονται όλο και πιο μακριές και πιο πολυάριθμες (c), καθώς ο αριθμός των πιθανών καταστάσεων στις οποίες μπορεί να βρεθεί το σύστημα, αυξάνει. Προοδευτικά (d), γεμίζει όλος ο υπερ-χώρος με μικρές φλέβες του φανταστικού υγρού, αν και ο συνολικός όγκος του υγρού παραμένει σταθερός. Από μακροσκοπική οπτική γωνία, η κατανομή του υγρού μοιάζει ομοιόμορφη αν και δεν είναι καθόλου ομοιόμορφη όταν εξεταστεί σε μικροσκοπική κλίμακα του χώρου των φάσεων.

Time_A3

Αν το αρχικό μπαλονάκι μπορούσε να χωριστεί σε δύο ή περισσότερα, αυτό θα σήμαινε ότι θα υπήρχε κάποια δυναμική τροχιά που θα διακλαδιζόταν, πράγμα που όπως είδαμε απαγορεύεται. Επιπλέον, ο όγκος του μπαλονιού δεν πρέπει ν’ αλλάζει όσο κι αν πετάγονται νέες προεξοχές του, γιατί ο όγκος είναι ανάλογος με τον αριθμό των διακριτών καταστάσεων που επιτρέπονται από την αρχή της απροσδιοριστίας, και ο αριθμός αυτός δεν μπορεί ν’ αλλάζει αφού κάθε κατάσταση ορίζει μια μοναδική δυναμική ιστορία του συστήματος. Με τη βοήθεια των παραδοχών αυτών καταλήγουμε ότι το υγρό της πιθανότητας είναι συνεχές και ασυμπίεστο. Επεκτείνεται στο χώρο των φάσεων χωρίς μεταβολή της πυκνότητάς του, και γι αυτό είπαμε πιο πάνω ότι αναγκαστικά πετάγονται διάφορες προεξοχές από το μπαλόνι αυτό που γίνονται όλο και πιο πολυάριθμες, μακρύτερες και λεπτότερες καθώς το αέριο εξελίσσεται. Ο Gibbs, ένας από τους θεμελιωτές της στατιστικής φυσικής παρομοίασε την αναπαράσταση αυτή με τον τρόπο που μια μικρή ποσότητα μελάνης απλώνεται μέσα σ’ ένα ποτήρι νερό.

Καθώς λοιπόν η δυναμική ιστορία του συστήματος εξελίσσεται, διαπιστώνουμε μια βασική διαφορά μεταξύ της αρχικής και της τελικής κατάστασης του συστήματος. Το ρευστό που παριστάνει την πιθανότητα, είναι πάντα περιορισμένο σε ένα μικρό όγκο στο χώρο των φάσεων, εντός του οποίου είναι ομογενές. Ο υπόλοιπος όγκος του χώρου των φάσεων είναι κενός.  Στην τελική κατάσταση, μοιάζει μακροσκοπικά η εικόνα σα να είναι κατειλημμένος ομοιόμορφα ολόκληρος ο χώρος των φάσεων, αλλά κάτι τέτοιο δεν είναι ακριβές. Σε μικροσκοπική κλίμακα επικρατεί εξαιρετικά υψηλή ανομοιογένεια.

Η ροή της πληροφορίας

Η διάκριση μεταξύ μιας ομοιογενούς και μιας μη ομοιογενούς κατανομής του ρευστού της πιθανότητας μας δίνει μια ουσιαστική διαφορά όσον αφορά το πληροφοριακό περιεχόμενο του συστήματος. για να μετρήσουμε την πληροφορία, πρέπει να διαιρέσουμε την διαθέσιμη περιοχή του χώρου των φάσεων σε μικρές κυψελίδες με ίσους υπερ-όγκους. Για ευκολία θα υποθέσουμε ότι υπάρχουν 2^r τέτοιες κυψελίδες, όπου r είναι ένας ακέραιος. Αρχικά, όλο το ρευστό της πιθανότητας περιορίζεται σε μια τέτοια κυψελίδα. Η πληροφορία που απαιτείται για να καθορίσουμε την κατάσταση αυτή, είναι όπως είπαμε και στην αρχή, ο αριθμός των δυαδικών ψηφίων που χρειάζονται για να προσδιοριστεί μια συγκεκριμένη κυψελίδα. Ο απαιτούμενος λοιπόν αριθμός των bits είναι ο log2(2r) = r. Έτσι η αρχική κατάσταση του νοητού πειράματός μας μπορεί να προσδιοριστεί με r bits πληροφορίας.

Στην τελική κατάσταση, αν κάποιος δει το ρευστό της πιθανότητας σαν ομοιόμορφα κατανεμημένο μεταξύ των κυψελίδων, καθεμιά από τις 2r κυψελίδες, περιέχει τον ίδιο όγκο από το ρευστό της πιθανότητας. Στο επίπεδο αυτό περιγραφής, η τελική κατάσταση είναι πλήρως απροσδιόριστη και δεν χρειαζόμαστε καθόλου πληροφορία για να την προσδιορίσουμε. Κατά την εξέλιξη του συστήματος, όλη η πληροφορία που περιεχόταν στην αρχική κατάσταση, μοιάζει να έχει χαθεί.

Αν όμως εξετάσουμε την κατανομή του ρευστού πιθανότητας σε μικρότερη κλίμακα, θα ανακαλύψουμε που έχει πάει η πληροφορία. Αν κάθε κυψελίδα περιέχει ίσο όγκο του ρευστού και ο ολικός όγκος του ρευστού δεν έχει μεταβληθεί, όπως σχολιάσαμε παραπάνω, τότε εντός κάθε κυψελίδας το ρευστό πιθανότητας πρέπει να καταλαμβάνει μόνο 1/2r από τον όγκο της κυψελίδας. Αν και η πυκνότητα του υγρού δεν έχει αλλάξει, το σχήμα της κατειλημμένης περιοχής είναι πολύ περίπλοκο, όπως φάνηκε και στις εικόνες a,b,c,d. Διαιρώντας την κυψελίδα σε ικανό αριθμό μικροκυψελίδων, μπορούμε να δείξουμε ότι η πληροφορία που απαιτείται για να καθορίσουμε την κατανομή του ρευστού σε όλη την περιοχή του χώρου των φάσεων είναι ξανά ίση με log2(2r) = r.

Η μακροσκοπική πληροφορία που είναι παρούσα στην αρχική κατάσταση, δεν έχει χαθεί. Έχει απλά μετατραπεί σε μικροσκοπική πληροφορία κατά την τελική κατάσταση.

Το συμπέρασμα αυτό είναι τελείως γενικό και ακριβές. Άσχετα από το πως επιλέγουμε να διαμερίσουμε τον χώρο των φάσεων σε μακροσκοπικές κυψελίδες, μπορούμε να ορίσουμε την μακροσκοπική πληροφορία ως την πληροφορία που χρειάζεται για να καθορίσουμε την πιθανότητα που σχετίζεται με αυτές τις μακροσκοπικές κυψελίδες. Η πληροφορία που χρειάζεται για να καθοριστεί η κατανομή του ρευστού πιθανότητας εντός καθεμιάς μακροσκοπικής κυψελίδας, ορίζεται ως μικροσκοπική πληροφορία.

Καθώς το κλειστό σύστημα των μορίων εξελίσσεται, η ολική ποσότητα πληροφορίας που χρειάζεται για να καθοριστεί η κατανομή του ρευστού πιθανότητας στο χώρο φάσεων του συστήματος παραμένει αμετάβλητη. Η μακροσκοπική όμως πληροφορία μπορεί να μετατραπεί σε μικροσκοπική πληροφορία και αντιστρόφως.

Τι παριστάνουν όμως αυτά τα δύο είδη πληροφορίας;

Μπορούμε να ταυτίσουμε την μακροσκοπική πληροφορία με τη γνώση μας για τις στατιστικές ιδιότητες του συστήματος, ενώ η μικροσκοπική πληροφορία ταυτίζεται με τη λεπτομερή γνώση μας καθενός μορίου ξεχωριστά. Πιο συγκεκριμένα, η μικροσκοπική πληροφορία εκφράζει τη γνώση μας για τους συσχετισμούς που υφίστανται μεταξύ των ταχυτήτων των σωματιδίων.

Στο νοητό πείραμά μας, η μικροσκοπική πληροφορία ήταν τελείως απούσα στην αρχική κατάσταση, γιατί στην αρχική κατάσταση δεν υπήρχαν συσχετισμοί μεταξύ των μοριακών ταχυτήτων. Αυτό σημαίνει ότι η γνώση της ταχύτητας ενός μορίου δεν θα μας καθιστούσε ικανούς να προβλέψουμε τις ταχύτητες άλλων μορίων.

Καθώς το σύστημα εξελισσόταν, οι συγκρούσεις μεταξύ των μορίων δημιούργησαν συσχετισμούς μεταξύ των ταχυτήτων των μορίων και όλη η μακροσκοπική πληροφορία που υπήρχε αρχικά, μετατράπηκε τελικά σε μικροσκοπική πληροφορία μέσω της συσχέτισης αυτής των ταχυτήτων των μορίων.

Είδαμε στο πρώτο μέρος του άρθρου ότι στις περιπτώσεις εκείνες που η μακροσκοπική πληροφορία ελαττώνεται, αυξάνεται η θερμοδυναμική εντροπία αφού το άθροισμά τους πρέπει να παραμένει σταθερό για ένα κλειστό σύστημα. Θα μπορούσαμε λοιπόν να ορίσουμε την ίδια τη θερμοδυναμική εντροπία (όχι τη μεταβολή της) ως το αρνητικό της μακροσκοπικής πληροφορίας. Κάτι τέτοιο δεν έρχεται σε αντίφαση με τις εξισώσεις που παρουσιάσαμε αρχικά: H+I = Hmax= Imax.

Όπου Η είναι η θερμοδυναμική εντροπία και Ι είναι η μακροσκοπική πληροφορία.

Με τον τρόπο αυτό μπορούμε επιτέλους να φτάσουμε σε μια αρχή την κατανόηση του βέλους του χρόνου:

Σε συστήματα όπου η αρχική τους κατάσταση είναι τέτοιας μορφής ώστε να υπάρχει μόνο μακροσκοπική πληροφορία και καθόλου μικροσκοπική, η εξέλιξή τους οδηγεί αναπόφευκτα στη μείωση της μακροσκοπικής πληροφορίας, την αύξηση της μικροσκοπικής και την αύξηση επίσης της εντροπίας. Η αναπόφευκτη αύξηση της εντροπίας είναι εκείνη που μας δίνει την εντύπωση του βέλους του χρόνου.

Πηγές:

1. David Layer. The Arrow of Time. Scientific America October 1976.

2. Sean Caroll. Does time run backward in other universes? Scientific American . May 2008.

3. David Pacchioli. The Arrow of Time.

4. Pennstate University. http://www.rps.psu.edu/time/arrow.html








Αρέσει σε %d bloggers: