ΥΛΟΠΟΙΗΣΗ ΤΟΥ ΝΕΥΡΩΝΙΚΟΥ ΜΟΝΤΕΛΟΥ MIHALAS-NIEBUR ΜΕ ΧΡΗΣΗ ΚΥΚΛΩΜΑΤΩΝ ΣΤΟ ΠΕΔΙΟ ΤΟΥ ΥΠΕΡΒΟΛΙΚΟΥ ΗΜΙΤΟΝΟΥ

ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΣΧΟΛΗ ΘΕΤΙΚΩΝ ΕΠΙΣΤΗΜΩΝ ΤΜΗΜΑ ΦΥΣΙΚΗΣ ΕΡΓΑΣΤΗΡΙΟ ΗΛΕΚΤΡΟΝΙΚΗΣ ΠΜΣ ΗΛΕΚΤΡΟΝΙΚΗ & ΕΠΙΚΟΙΝΩΝΙΕΣ ΥΛΟΠΟΙΗΣΗ ΤΟΥ ΝΕΥΡΩΝΙΚΟΥ ΜΟΝΤΕΛΟΥ MIHALAS-NIEBUR ΜΕ ΧΡΗΣΗ ΚΥΚΛΩΜΑΤΩΝ ΣΤΟ ΠΕΔΙΟ ΤΟΥ ΥΠΕΡΒΟΛΙΚΟΥ ΗΜΙΤΟΝΟΥ ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ ΧΡΙΣΤΟΦΟΡΟΣ ΔΙΑΜΑΝΤΟΠΟΥΛΟΣ A.M. 468 Πτυχιούχος Τμήματος Φυσικής Επιβλέπων: Κων/νος Ψυχαλίνος, Καθηγητής Πάτρα, Νοέμβριος 2015

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 2

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 3 ΥΛΟΠΟΙΗΣΗ ΤΟΥ ΝΕΥΡΩΝΙΚΟΥ ΜΟΝΤΕΛΟΥ MIHALAS-NIEBUR ΜΕ ΧΡΗΣΗ ΚΥΚΛΩΜΑΤΩΝ ΣΤΟ ΠΕΔΙΟ ΤΟΥ ΥΠΕΡΒΟΛΙΚΟΥ ΗΜΙΤΟΝΟΥ ΜΕΤΑΠΤΥΧΙΑΚΗ ΔΙΠΛΩΜΑΤΙΚΗ ΕΡΓΑΣΙΑ ΧΡΙΣΤΟΦΟΡΟΣ ΔΙΑΜΑΝΤΟΠΟΥΛΟΣ A.M. 468 Πτυχιούχος Τμήματος Φυσικής Εξεταστική επιτροπή: Κ. Ψυχαλίνος Γ. Οικονόμου Σπ. Βλάσσης Εγκρίθηκε από την τριμελή εξεταστική επιτροπή την 09/12/2015. Κ. Ψυχαλίνος Καθηγητής Γ. Οικονόμου Καθηγητής Σπ. Βλάσσης Αναπλ. Καθηγητής Πάτρα, Νοέμβριος 2015

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 4 Αυτή η σελίδα αφέθηκε εσκεμμένα κενή

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 5 Περίληψη Η κυκλωματική μοντελοποίηση των νευρώνων του κεντρικού νευρικού συστήματος (Central Nervous System - CNS), είναι ένα από τα πιο ενδιαφέροντα και πολλά υποσχόμενα ερευνητικά πεδία των βιοϊατρικών εφαρμογών. Συστήματα αποτελούμενα από νευρώνες πυριτίου (Silicon Neurons - SiN), όπως τα νευρωνικά δίκτυα 3 ης γενιάς Spiking Neural Networks (SSNs), μπορούν να εξομοιώσουν την εγκεφαλική δραστηριότητα ενεργοποιούμενα από ερεθίσματα σε πραγματικό χρόνο, δίνοντας πολύτιμα ιατρικά δεδομένα στους ερευνητές. Στην παρούσα ερευνητική εργασία, παρουσιάζεται η κυκλωματική υλοποίηση ενός νευρώνα SiN, ο οποίος βασίζεται στο μοντέλο Mihalas Niebur[1] (μοντέλο MN), με χρήση δομών βαθυπερατών φίλτρων (Low-Pass Filters LPF). Καθώς πρόκειται για ολοκληρωμένο κύκλωμα βιοϊατρικών εφαρμογών, στα ορισθέντα κριτήρια σχεδίασής του περιλαμβάνονται: α) η δυνατότητα λειτουργίας με πολύ χαμηλή τάση τροφοδοσίας (very low-voltage) και β) η πόλωσή του με μικρά ρεύματα, χωρίς να μειώνεται η δυναμική περιοχή των διαχειριζόμενων σημάτων. Τα κυριότερα πλεονεκτήματα αυτής της υλοποίησης εστιάζονται: α) στη λειτουργία με τάση τροφοδοσίας 0.7V, β) στην ικανότητα διαχείρισης ρευμάτων που είναι πολλαπλάσια μεγαλύτερα από το ρεύμα πόλωσης (τάξη-αβ) και γ) στη χρήση πολύ μικρών τιμών χωρητικοτήτων. Η επίτευξη των παραπάνω, έγινε δυνατή με τη σχεδίαση των απαιτούμενων επιμέρους δομών στο πεδίο του υπερβολικού ημιτόνου (sinh-domain), αξιοποιώντας παράλληλα τη λειτουργία των MOSFET transistors στην περιοχή υποκατωφλίου (sub-threshold region). Επιπροσθέτως, η σχεδίαση αξιοποιεί την εναλλακτική τεχνική επίτευξης πολύ μεγάλων σταθερών χρόνου χωρίς την αύξηση των απαιτούμενων χωρητικοτήτων σε ένα σύστημα συμπίεσης/αποσυμπίεσης (companding system)[13], πετυχαίνοντας εντυπωσιακή μείωση των τιμών των πυκνωτών ολοκλήρωσης που απαιτούνται για τα βιοϊατρικά σήματα. Τέλος, αναφορικά με τη σχεδίαση του συστήματος, αυτή πραγματοποιήθηκε εξ ολοκλήρου στο λογισμικό Cadence, με το Design Kit που παρέχεται από την τεχνολογία AMS CMOS C35 0.35μm. Λέξεις κλειδιά: Αναλογικά ολοκληρωμένα κυκλώματα, Κυκλώματα πολύ χαμηλής τάσης τροφοδοσίας, Κυκλώματα στο πεδίο του υπερβολικού ημιτόνου, Κυκλώματα για βιοϊατρικές εφαρμογές.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 6 Abstract Modeling neurons of the Central Nervous System (CNS) using circuits, is one of the most interesting and promising research fields of biomedical applications. The systems which consist of Silicon Neurons (SiN), such as 3 rd generation neural networks SSNs (Spiking Neural Networks), are able to simulate the brain activity triggered by stimuli in real time, providing researchers with valuable medical data. This thesis, presents an enhanced topology of a SiN based on Mihalas Niebur[1] model (model MN), using Low-Pass Filters (LPF). As an integrated circuit for biomedical applications, it is demanded to satisfy the following design criteria: a) ability to operate as a very low-voltage device and b) bias currents can be pushed to very low values without reducing the dynamic range of the handled signals. The main advantages of this implementation are: a) operating voltage is 0.7V, b) the currents that can be handled are many times higher than the bias current (class-ab) and c) the usage of very low capacitances. The above, were achieved by designing the required cells in sinh-domain with simultaneous utilization of MOSFET operation in the subthreshold region. Additionally, this design takes advantage of the alternative technique of very large time constants realization in companding systems[13] without affecting the required capacitances, leading in impressive reduction of the capacitor values for biomedical signals. Finally, regarding the design procedure of the system, it was entirely performed using Cadence software, and specifically the Design Kit that was provided by AMS CMOS C35 0.35μm technology. Index Terms: Analog integrated circuits, Very low-voltage circuits, Sinh-Domain circuits, Circuits for biomedical applications.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 7 Ευχαριστίες Η παρούσα διπλωματική εργασία αποτελεί το επιστέγασμα των σπουδών μου, όχι μόνο αυτών του μεταπτυχιακού προγράμματος αλλά και των προγενέστερων καθώς η κατεύθυνση της Ηλεκτρονικής ήταν η συνειδητή και επιθυμητή επιλογή εξαρχής. Θα ήθελα λοιπόν σε αυτό το σημείο να ευχαριστήσω θερμά αυτούς που συνετέλεσαν στην επιτυχή οκοκλήρωσή τους. Ο επιβλέπων καθηγητής κ. Κώστας Ψυχαλίνος ήταν αυτός που με εισήγαγε στο μαγευτικό κόσμο των αναλογικών ολοκληρωμένων κυκλωμάτων καθώς και στις βιοϊατρικές εφαρμογές τους που αμέσως μου κέντρισαν το ενδιαφέρον. Επιπροσθέτως, ήταν αυτός που μου εμπιστεύτηκε την πρόκληση της υλοποίησης του νευρωνικού μοντέλου και ταυτόχρονα μου παρείχε απεριόριστη πρόσβαση σε υλικό και εξοπλισμό για την επίτευξή της. Για όλα τα παραπάνω αλλά και για την άψογη συνεργασία που είχαμε σε όλη τη διάρκεια των σπουδών μου τον ευχαριστώ από καρδιάς. Βεβαίως, υπήρξαν άτομα στον ακαδημαϊκό κύκλο, που είτε με συμβουλές είτε με τεχνική βοήθεια, συνέβαλλαν στην περάτωση του ερευνητικού έργου μου. Από αυτά, θα ήθελα να ξεχωρίσω την υποψήφια διδάκτορα Ηλεκτρονικής, Γεωργία Τσιριμώκου, η οποία ανέλαβε την εκπαίδευσή μου στο πολύπλοκο περιβάλλον σχεδίασης της Cadence και επιπλέον με συμβούλευσε για χρήση μερικών πολύ χρήσιμων σχεδιαστικών τεχνικών. Την ευχαριστώ ειλικρινά για όλα τα παραπάνω. Όπως συνήθως συμβαίνει στις απαιτητικές εργασίες και στις δύσκολες διαδρομές, οι αφανείς υποστηρικτές τους έχουν καταλυτικό ρόλο. Οι γονείς μου είχαν το ρόλο αυτό ανέκαθεν και για το μάθημα της ακλόνητης εμπιστοσύνης στις δυνάμεις μου, το οποίο και μου δίδαξαν, αλλά και για όλα τα υπόλοιπα ίσως μερικές ευχαριστίες να μην φτάνουν, όμως είναι το λιγότερο που μπορώ να κάνω για να αναδείξω το πόσο εκτιμώ τη συνολική στάση τους. Τέλος, τα περισσότερα χρόνια των σπουδών μου αλλά κυρίως στη διάρκεια των εξαιρετικά απαιτητικών σε πολλούς τομείς μεταπτυχιακών σπουδών, υπήρξε ένας άνθρωπος που συνεχώς με παρακινούσε και με εμψύχωνε ώστε να συνεχίσω να επιδιώκω το μέγιστο των δυνατοτήτων μου. Αυτός δεν είναι άλλος από τη σύζυγό μου, η οποία έδειξε απεριόριστη υπομονή ιδιαιτέρως στις δύσκολες στιγμές και για όλα όσα έκανε θα ήθελα να την ευχαριστήσω, αφιερώνοντάς της την εν λόγω ερευνητική εργασία.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 8 Περιεχόμενα Περίληψη... 5 Abstract... 6 Ευχαριστίες... 7 Περιεχόμενα... 8 Κεφάλαιο 1. Εισαγωγή... 11 1.1 Αναλογικά κυκλώματα χαμηλής τάσης τροφοδοσίας... 11 1.2 Αντικείμενο και στόχοι της διπλωματικής εργασίας... 12 1.3 Οργάνωση της Διπλωματικής Εργασίας... 13 Κεφάλαιο 2. Μοντέλα νευρώνων... 16 2.1 Εισαγωγή... 16 2.2 Ανασκόπηση της βιβλιογραφίας... 20 2.3 Μοντέλο Mihalas Niebur... 22 Κεφάλαιο 3. Κυκλώματα στο πεδίο του υπερβολικού ημιτόνου... 28 3.1 Εισαγωγή... 28 3.2 Συστήματα συμπίεσης/αποσυμπίεσης... 29 3.3 Ολοκληρωτές στο πεδίο του υπερβολικού ημιτόνου... 34 3.4 Μη γραμμικοί διαγωγοί με MOS transistors... 40 Κεφάλαιο 4. Μοντέλο Leaky-Integrate-and-Fire (LIF)... 46 4.1 Εισαγωγή... 46

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 9 4.2 Υλοποίηση του μοντέλου LIF στο πεδίο του υπερβολικού ημιτόνου... 47 4.3 Αποτελέσματα εξομοίωσης... 55 4.4 Συγκριτικά αποτελέσματα... 59 Κεφάλαιο 5. Μοντέλο Leaky-Integrate-and-Fire (LIF) με προσαρμογή κατωφλίου... 63 5.1 Εισαγωγή... 63 5.2 Υλοποίηση του μοντέλου LIF με προσαρμογή κατωφλίου στο πεδίο του υπερβολικού ημιτόνου... 64 5.3 Αποτελέσματα εξομοίωσης... 69 5.4 Συγκριτικά αποτελέσματα... 79 Κεφάλαιο 6. Συμπεράσματα Προτάσεις για μελλοντική έρευνα... 82 6.1 Συμπεράσματα... 82 6.2 Προτάσεις για μελλοντική έρευνα... 83 Αναφορές... 85

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 11 ΚΕΦΑΛΑΙΟ 1 ΕΙΣΑΓΩΓΗ 1.1 Αναλογικά κυκλώματα χαμηλής τάσης τροφοδοσίας Την περίοδο συγγραφής της παρούσας εργασίας, παράγονται εμπορικά ολοκληρωμένα κυκλώματα με τεχνολογία κατασκευής transistors, των οποίων το μήκος πύλης είναι της τάξης των 14nm. Μειουμένων των διαστάσεων, τα συμβατικά MOSFET transistors αντικαθίστανται από άλλα (π.χ. FinFETs) και εν έτει 2015, έχει κατακτηθεί πειραματικά το άλλοτε θεωρητικό κατώτατο όριο των 5nm. Τα ανωτέρω στοιχεία, δείχνουν την τάση στη σχεδίαση των ολοκληρωμένων κυκλωμάτων που δεν είναι άλλη από την ελαχιστοποίηση των διαστάσεων, η οποία οδηγεί σε πάρα πολύ μικρή κατανάλωση ισχύος και τεράστια πυκνότητα ολοκλήρωσης. Συνεπώς, επιτυγχάνονται υψηλές επιδόσεις με πολύ χαμηλές τάσεις τροφοδοσίας και δραματικά μειωμένο κόστος. Αν στα παραπάνω προστεθεί και η απαίτηση για ολοκλήρωση στο ίδιο chip αναλογικών κυκλωμάτων μαζί με ψηφιακά και κυκλώματα RF συνεισφέροντας η κάθε σχεδίαση τα μειονεκτήματά της και αυξάνοντας τις απαιτήσεις για τις υπόλοιπες, γίνεται αντιληπτή η μεγάλη πρόκληση για τους σχεδιαστές των επιμέρους τοπολογιών. Η υλοποίηση του μοντέλου νευρώνα που παρουσιάζεται, δεν απαιτεί τη μελέτη των οριακών συνθηκών που αναφέρθηκαν παραπάνω καθώς γίνεται στην τεχνολογία των 350nm αλλά, η σχεδίαση ενός μη ενεργοβόρου αναλογικού ολοκληρωμένου κυκλώματος, σε αυτήν την τεχνολογία, παρουσιάζει πολλές προκλήσεις. Γνωρίζουμε πως για τα MOSFET transistors, που λειτουργούν στην περιοχή κόρου, η τάση κατωφλίου (VDS,sat) είναι περίπου ίση με 200mV. Συνεπάγεται λοιπόν ότι για ένα τυπικό κύκλωμα χαμηλής τάσης τροφοδοσίας, θα χρειαστούμε κατ ελάχιστο, τάση VGS + 2VDS,sat ή VGS + VDS,sat, δηλαδή μεγαλύτερη ή ίση από 1,2V. Όμως, για ένα κύκλωμα που στοχεύει στις βιοϊατρικές εφαρμογές, αυτή η τάση τροφοδοσίας δεν είναι γενικά αποδεκτή εφόσον επιβάλλεται να έχει πολύ μεγάλη διάρκεια ζωής ή/και να είναι εμφυτεύσιμο. Η ελάττωση των διαστάσεων με ταυτόχρονη μείωση της τάσης VGS ήταν συνεπώς επιβεβλημένη. Όμως προκύπτει σωρεία προβλημάτων από τη συνεχή μείωση των διαστάσεων των transistors, όπως απώλεια της τετραγωνικής σχέσης ID και VGS, αστάθεια της τάσης κατωφλίου, μείωση της εμπέδησης εξόδου λόγω της μεταβολής του συντελεστή διαμόρφωσης μήκους καναλιού (CML factor) καθώς και λόγω του φαινομένου DIBL (Drain-Induced Barrier Lowering), αλλά και αύξηση των ρευμάτων διαρροής. Αυτά τα ρεύματα συμμετέχουν κατά μεγάλο ποσοστό στη συνολική κατανάλωση ισχύος και αποτελούν συνονθύλευμα επιμέρους ρευμάτων,

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 12 όπως οι διαρροές επαφής pn και gate-oxide, ενώ στη βιβλιογραφία αναφέρονται υπό τον όρο «αγωγή υποκατωφλίου» (subthreshold conduction). Εκφράζουν δηλαδή το ρεύμα στη λειτουργία αποκοπής VGS < Vthres, όπου ιδανικά δεν προβλέπεται η παρουσία ρεύματος. Επιπροσθέτως, εφόσον VDS,sat 200mV, η μεγάλη μείωση της εφαρμοζόμενης τάσης στην πύλη, μας περιορίζει όσο αφορά το επιτρεπόμενο swing τάσης στο transistor. Εν τέλει, η αυξημένη κατανάλωση δεν είναι αποδεκτή, αφού αποτελεί κρίσιμο παράγοντα της ποιότητας του κυκλώματος και η μονομερής μείωση της τάσης πόλωσης βάζει σε κίνδυνο την επιθυμητή λειτουργία του κυκλώματος. Μία τεχνική σχεδίασης, η οποία δίνει λύση στα προηγούμενα προβλήματα, είναι αυτή της εκμετάλλευσης της «ασθενούς αναστροφής» (weak inversion) των MOSFET transistors. Παρά το γεγονός ότι οι πρώτες αναφορές της έγιναν στις αρχές των 70, εμφανίζεται κατά κόρον τις τελευταίες δύο δεκαετίες, καθώς η ανάγκη για μικρή κατανάλωση έγινε επιτακτική. Σύμφωνα με αυτή, τα ρεύματα διαρροής υποκατωφλίου μπορούν να αξιοποιηθούν με κατάλληλη πόλωση από τα transistors, τα οποία καθίστανται ικανά να λειτουργούν με τάση τροφοδοσίας της τάξης των mv και να δομούν συστήματα που καταναλώνουν ισχύ της τάξης των nw. Συμπερασματικά, δεδομένου ότι στις βιοϊατρικές εφαρμογές νευρώνων τα σήματα είναι σχετικά «αργά», με μικρό πλάτος και μεγάλη δυναμική περιοχή, η τεχνική αυτή αποδείχθηκε ιδανική για τη σχεδίαση του συστήματός μας. 1.2 Αντικείμενο και στόχοι της διπλωματικής εργασίας Απαρχή της διπλωματικής εργασίας, αποτέλεσε η μελέτη των συστημάτων εξομοίωσης των βιολογικών νευρώνων χρησιμοποιώντας κυκλωματικά μοντέλα. Αυτά τα μοντέλα υπερτερούν των αντίστοιχων μοντέλων λογισμικού, λόγω της ικανότητάς τους να εντάσσονται σε μεγαλύτερα συστήματα και να διαχειρίζονται τα σήματα σε πραγματικό χρόνο. Το εν λόγω ερευνητικό πεδίο παρουσιάζει εξαιρετικό ενδιαφέρον που αυξάνει διαρκώς. Ο λόγος είναι ότι παρά την τεράστια πρόοδο της Νευροεπιστήμης και τις προσπάθειες δεκαετιών για την περιγραφή της λειτουργίας των νευρώνων και των συνάψεων ενός ανθρώπινου εγκεφάλου (υπολογίζονται σε πολύ πάνω από 100 δισεκατομμύρια και 100 τρισεκατομμύρια αντίστοιχα), ακόμα επικρατεί αβεβαιότητα αναφορικά με την πολύπλοκη επικοινωνία τους. Το πρόβλημα γιγαντώνεται κατά την προσπάθεια εξομοίωσής τους, καθώς το μέγεθος του δικτύου είναι απαγορευτικό για τα πολύπλοκα μαθηματικά μοντέλα. Αναπόφευκτα λοιπόν, αναπτύχθηκαν απλούστερα νευρωνικά μοντέλα (Izhikevich[14], Mihalas-Niebur[1] κ.α.) και οι αντίστοιχοι κυκλωματικοί μίμοι τους έτσι ώστε, να προσφέρουν από τη μία μεριά την αποδοτική αναπαράσταση των χαρακτηριστικών τους και τη σχεδίαση

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 13 έξυπνων ηλεκτρονικών συστημάτων υπολογισμού και λήψης αποφάσεων από την άλλη. Εστιάζοντας στους νευρώνες αιχμών (spiking neurons), οι προτεινόμενες κυκλωματικές υλοποιήσεις ποικίλουν και κατηγοριοποιούνται είτε βάσει της μαθηματικής προσέγγισης των σημάτων τους (dynamical system models vs equation-based models κλπ) είτε βάσει της σχεδίασής τους (analog vs digital ή switched-capacitor based vs Low-Pass Filter (LPF) based ή conductance-based vs generalized Integrate-and-Fire κλπ). Προφανώς η κάθε προσέγγιση χαρακτηρίζεται από πλεονεκτήματα και μειονεκτήματα σε διαφορετικούς τομείς. Η επιλογή πρέπει να γίνεται με γνώμονα την ικανοποίηση των κριτηρίων που τίθενται από τον σχεδιαστή για τον εκάστοτε σκοπό. Η εργασία εστιάζει στους νευρώνες SiN που αποτελούνται από δομές βαθυπερατών φίλτρων τα οποία οδηγούν έναν συγκριτή ρεύματος. Ο κύριος στόχος της, είναι η υλοποίηση ενός μοντέλου νευρώνα Mihalas Niebur που να αποβάλλει τον περιορισμό της δυναμικής περιοχής σήματος και την απαίτηση για μεγάλες χωρητικότητες, χαρακτηριστικά που παρατηρούνται στην τοπολογία [6] της βιβλιογραφίας. Σχεδιαστικά, η τοπολογία που παρουσιάζεται, εκμεταλλεύεται την αναφερθείσα περιοχή υποκατωφλίου. Λαμβάνοντας υπ όψιν ότι σε αυτήν τη λειτουργία είναι VDS,sat 4VT 100mV, αναιρείται η απαίτηση για τάση τροφοδοσίας μεγαλύτερη ή ίση των 1,2V. Ως επακόλουθο, επιδεικνύει μείωση της τελικής κατανάλωσης η οποία επιτυγχάνεται με ένα κόστος που αφορά τις συχνότητες λειτουργίας και την ενίσχυση. Ωστόσο, η συγκεκριμένη υλοποίηση δεν επηρεάζεται από τα δύο αυτά μειονεκτήματα καθώς διαχειρίζεται νευρωνικά βιοϊατρικά σήματα τα οποία χαρακτηρίζονται από σχετικά χαμηλές συχνότητες της τάξης των Hz και των οποίων το πλάτος δεν απαιτεί σημαντική ενίσχυση. Εν τέλει, η τοπολογία επιτυγχάνει παρόμοια συμπεριφορά με αυτή ενός βιολογικού νευρώνα καταναλώνοντας ισχύ της τάξης των nw (ultra low-power) και κάνοντας χρήση μικρού αριθμού transistors. 1.3 Οργάνωση της Διπλωματικής Εργασίας Αναφορικά με την οργάνωση της διπλωματικής εργασίας, αυτή δομείται από έξι κεφάλαια, εκ των οποίων το πρώτο αφιερώνεται στην παρουσίαση του αντικειμένου και των στόχων της. Στο δεύτερο κεφάλαιο, αναπτύσσεται η φυσιολογία του εγκεφάλου όσο αφορά τους νευρώνες του και εν συνεχεία παρατίθενται τα βασικά μοντέλα νευρώνων της βιβλιογραφίας. Το κεφάλαιο κλείνει με μία εκτενή αναφορά στο μοντέλο Mihalas Niebur το οποίο είναι και αυτό στο οποίο στοχεύει η εργασία αυτή. Το τρίτο κεφάλαιο αξιοποιείται για τη λεπτομερή μελέτη των βασικών δομικών στοιχείων που θα χρησιμοποιηθούν στην ανάπτυξη του τελικού κυκλώματος. Έτσι,

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 14 παρατίθενται με τη σειρά τα συστήματα συμπίεσης/αποσυμπίεσης, οι ολοκληρωτές στο πεδίο του υπερβολικού ημιτόνου και τέλος οι μη γραμμικοί διαγωγοί με χρήση MOS transistors. Ακολουθεί το τέταρτο κεφάλαιο στο οποίο παρουσιάζεται αναλυτικά η υλοποίηση του μοντέλου Leaky Integrate-and-Fire (LIF) χρησιμοποιώντας τις βασικές δομές του κεφαλαίου 3, ενώ στο αμέσως επόμενο κεφάλαιο αναπτύσσεται η αντίστοιχη υλοποίηση για το μοντέλο Leaky Integrate-and-Fire με προσαρμογή κατωφλίου. Τα αποτελέσματα των εξομοιώσεων αναπτύσσονται μετά τις τοπολογίες για καθένα από τα παραπάνω κεφάλαια, ενώ και τα δύο κλείνουν με τα συγκριτικά αποτελέσματα που προέκυψαν από τη σύγκριση της παρούσας υλοποίησης με αυτή της εργασίας [6]. Η εργασία ολοκληρώνεται με το κεφάλαιο 6, στο οποίο αναφέρονται εκτενώς τα συμπεράσματα, ενώ επιπλέον τίθενται και ζητήματα που προέκυψαν από την εν λόγω μελέτη και χρήζουν περαιτέρω διερεύνησης.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 16 ΚΕΦΑΛΑΙΟ 2 ΜΟΝΤΕΛΑ ΝΕΥΡΩΝΩΝ 2.1 Εισαγωγή Προ διετίας, προκάλεσε μεγάλο ενδιαφέρον το αποτέλεσμα της μίμησης των λειτουργιών του ανθρώπινου εγκεφάλου από τον υπερυπολογιστή Fujitsu K[19], ένα φαινόμενο υπολογιστικής ισχύος, για την εποχή του, με 83.000 επεξεργαστές και δυνατότητα εκτέλεσης 10 16 FLOPS (Floating-point Operations Per Second). Τότε, Ιάπωνες και Γερμανοί επιστήμονες έκαναν χρήση μνήμης μεγέθους 1 petabyte κι έτσι κατάφεραν να μιμηθούν τη λειτουργία 1.73 δισεκατομμυρίων εικονικών νευρώνων και 10.4 τρισεκατομμυρίων εικονικών συνάψεων. Σύμφωνα με την παράγραφο 1.2, αυτό αντιστοιχεί σε περίπου 1% του εγκεφαλικού νευρωνικού δικτύου! Τα βελτιωμένα πειράματα σε ακόμα ταχύτερους υπερυπολογιστές ήδη λαμβάνουν χώρα, αλλά προκύπτει η απορία για το που οφείλεται αυτό το αντικειμενικά φτωχό αποτέλεσμα του κατά τα άλλα πρωτοποριακού επιτεύγματος. Προφανώς το αποτέλεσμα μπορεί να αποδοθεί στην υπολογιστική ισχύ, αλλά ο καταλυτικός παράγοντας, φαίνεται να είναι η μοντελοποίηση του εικονικού νευρωνικού δικτύου. Σύμφωνα με τη Νευροεπιστήμη, η μοναδικότητα των νευρώνων έγκειται στο γεγονός ότι μπορούν να αποστέλλουν ηλεκτρικά σήματα σε μεγάλες αποστάσεις ενώ δέχονται ερεθίσματα από τουλάχιστον 10.000 άλλους νευρώνες. Η κατανόηση της λειτουργίας τους είναι ύψιστης σημασίας, καθώς μέσα από αυτήν αντλούνται πληροφορίες τόσο για τη βιολογική υπόστασή τους όσο και για το ευρύτερο νευρωνικό δίκτυο του εγκεφάλου. Αν εστιάσουμε μόνο στους νευρώνες φλοιού (cortical neurons) του κεντρικού νευρικού συστήματος, ο κάθε ένας από αυτούς, μπορεί να δώσει σήματα σύμφωνα με 20 κύρια patterns (σχήμα 2.3) ή συνδυασμούς αυτών, άμεσα σχετιζόμενα με το ερέθισμα (stimulus) ενεργοποίησής του ή/και την ακριβώς προηγούμενη κατάστασή του. Βασιζόμενος σε αυτό το δαιδαλώδες σύστημα, ο ανθρώπινος εγκέφαλος μπορεί και κατατροπώνει τους σημερινούς υπερυπολογιστές εκτελώντας πολλές περισσότερες διεργασίες στον ίδιο χρόνο. Μία εναλλακτική λύση, είναι η χρήση ενός νευρωνικού δικτύου SNN, που αποτελείται από νευρώνες πυριτίου και εξομοιώνει ρεαλιστικά τη βιολογική λειτουργία του κεντρικού νευρικού συστήματος. Για να προσομοιωθεί όμως το ανωτέρω δίκτυο, απαιτείται η μοντελοποίηση του βασικού στοιχείο που δεν είναι άλλο από τον ένα νευρώνα. Ένα πρόβλημα που προκύπτει είναι η ανομοιομορφία των νευρώνων ως προς το σχήμα ή το μέγεθος. Προσεγγιστικά όμως, η φυσιολογία της πλειοψηφίας των νευρώνων του κεντρικού

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 17 νευρικού συστήματος, μπορεί να παρατηρηθεί στην αναπαράσταση του σχήματος 2.1 που συναντάται στη βιβλιογραφία. Σύμφωνα με αυτό, ο νευρώνας αποτελείται από τέσσερα βασικά μέρη: α) το σώμα (soma), β) τον άξονα (axon), γ) τους δενδρίτες (dendrites) και δ) τις συνάψεις (synapses). Περιληπτικά, οι δενδρίτες εξέχουν από το σώμα ώστε να λαμβάνουν σύντομους παλμούς δυναμικού μέσω των συνάψεων, οι οποίες είναι τα σημεία τομής μεταξύ του τερματικού του άξονα ενός νευρώνα και του σώματος/δενδρίτη ενός άλλου. Αυτοί οι παλμοί οδηγούν σε δυναμικά ενέργειας (action potentials), τα οποία με τη σειρά τους περιγράφουν την επαναπόλωση (repolarization) της μεμβράνης η οποία προκλήθηκε από προηγούμενη αποπόλωση (depolarization) αυτής και μπορούν να εμφανιστούν μεμονωμένα (singles) ή πολλαπλά με μορφή έκρηξης (burst). Με τον όρο αποπόλωση, εννοείται η προσέλκυση ιόντων Na +, τα οποία συνεπάγονται την αλλαγή συγκέντρωσης των φορτίων, άρα και την ύπαρξη ενός ρεύματος που θα οδηγήσει το δυναμικό της μεμβράνης σε μία στάθμη ικανή για πυροδότηση αιχμής (spike) (σχήμα 2.2). Αντίστοιχα, η επαναπόλωση περιγράφει το άνοιγμα των καναλιών (channels) των κατιόντων K +, η ροή των οποίων τείνει να επαφέρει το δυναμικό στην αρχική του τιμή. Έτσι ορίζονται ως βασικά μεγέθη για τα μοντέλα νευρώνων: α) το δυναμικό, β) η αντίσταση της μεμβράνης και γ) η χωρητικότητα της μεμβράνης. Αυτά δικαιολογούν ένα ρεύμα μεμβράνης που είναι υπεύθυνο για την παραγωγή αιχμών κατά τη διανευρωνική επικοινωνία. Σχ. 2.1 Αναπαράσταση βιολογικού νευρώνα

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 18 Σχ. 2.2 Ανάλυση του action potential (http://hyperphysics.phy-astr.gsu.edu/hbase/biology/actpot.html) Σχ. 2.3 Μοτίβα νευρώνων αιχμών[9] Παρατηρώντας προσεκτικότερα το σχήμα 2.3, είναι φανερό πως μπορούμε να κατηγοριοποιήσουμε τα μοτίβα αιχμών. Εστιάζοντας σε αυτά που αφορούν την υλοποίηση της εργασίας, μπορούμε να διακρίνουμε τα εξής:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 19 i. Tonic spiking [(a)] Αυτές οι αιχμές, προκύπτουν από ένα συνεχές ερέθισμα και χαρακτηρίζονται από εξάρτηση της συχνότητάς τους σύμφωνα με την ένταση του ερεθίσματος. ii. iii. iv. Phasic spiking [(b)] Εμφανίζονται αιχμές που είναι αποτέλεσμα συνεχούς ερεθίσματος αλλά αυτές εντοπίζονται στην αρχή του. Στην υπόλοιπη διάρκεια, ο νευρώνας παραμένει αδρανής λόγω ανικανότητας προσαρμογής του κατωφλίου στην ολοένα μικρότερη συχνότητα πυροδότησης. Tonic bursting & Phasic bursting [(c),(d)] Πρόκειται για πολλαπλές αιχμές οι οποίες είναι αποτέλεσμα ενός συνεχούς ερεθίσματος. Οι νευρώνες έχουν την ικανότητα να παράγουν με εναλλαγή μεμονωμένες ή πολλαπλές αιχμές για συνεχές ερέθισμα [(e)]. Frequency adaptation [(f)] Αυτού του τύπου οι αιχμές οφείλονται στην ιδιότητα των νευρώνων κατά την οποία, ένα διαρκές και επίμονο ερέθισμα μπορεί να προκαλέσει την μείωση της συχνότητας των αιχμών. v. Class 1 excitability [(g)] Οι τονικές αιχμές που φαίνονται στο σχήμα (α) μπορούν να έχουν συχνοτικό εύρος από 2Hz έως και πάνω από 200Hz ανάλογα με την ένταση του σήματος εισόδου. Οι αιχμές class 1 αποτελούν συνέπεια της ικανότητας των νευρώνων να δίνουν αιχμές για πολύ αδύναμα σήματα. vi. vii. viii. ix. Class 2 excitability [(h)] Αποτελούν τον τύπο αιχμών σχετικά υψηλής συχνότητας που χαρακτηρίζουν συγκεκριμένους νευρώνες. Accommodation [(r)] Αφορά την ιδιότητα των νευρώνων σύμφωνα με την οποία, ενώ παράγουν αιχμή ως αντίδραση σε ένα απότομο ερέθισμα σύναψης, δεν μπορούν να παράγουν αιχμή για σταδιακή αύξηση των ερεθισμάτων. Integration [(l)] Η ολοκλήρωση είναι η ιδιότητα κατά την οποία οι νευρώνες φαίνεται να παράγουν αιχμές για μεγάλες συχνότητες ενώ αδυνατούν να τις παράγουν για μικρότερες. Threshold variability [(o)] Αφορά την κοινώς αποδεκτή άποψη πως η τάση κατωφλίου των νευρώνων δεν είναι σταθερή ενώ αντιθέτως αυτή εξαρτάται από την αμέσως προηγούμενη κατάσταση του νευρώνα. x. Rebound spike [(m)] Πρόκειται για την αιχμή που παράγουν ορισμένοι νευρώνες μετά την πάροδο της εφαρμογής ενός ανασταλτικού ερεθίσματος. Βάσει της προσέγγισης που περιγράφηκε, η αντίστοιχη επιστημονική κοινότητα, έχει παρουσιάσει πληθώρα μοντέλων και κυκλωματικών υλοποιήσεων του βιολογικού νευρώνα.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 20 2.2 Ανασκόπηση της βιβλιογραφίας Παρά το γεγονός πως η μελέτη της συμπεριφοράς των νευρώνων αιχμών έχει αναφορές που τοποθετούνται έναν αιώνα πριν, η βιβλιογραφία, ιδιαιτέρως των τελευταίων δεκαετιών, προδίδει το επιστημονικό ενδιαφέρον για τη μοντελοποίηση αυτών των νευρώνων με μαθηματικά μοντέλα που να ευνοούν παράλληλα την αποδοτική κυκλωματική τους υλοποίηση. Σε αυτήν την παράγραφο λοιπόν, θα επιχειρηθεί μία επιγραμματική ανασκόπηση μερικών, εκ των κατά καιρούς υλοποιημένων μοντέλων της βιβλιογραφίας. i. Integrate-and-Fire Αυτό το μοντέλο αποτελεί μία εξιδανίκευση νευρώνα και είναι η ευκολότερα υλοποιήσιμη εκδοχή των νευρώνων αιχμών καθώς κάνει χρήση ελάχιστου αριθμού transistors και βασικών τοπολογιών όπως είναι οι καθρέφτες ρεύματος ή απλούς συνδυασμούς αναλογικών και ψηφιακών κυκλωμάτων. Επίσης, παρουσιάζει μικρή κατανάλωση και επιτυγχάνει αρκετά μοτίβα με τις ελάχιστες δυνατές παραμέτρους στις αντίστοιχες εξισώσεις. Έχει υποστεί πάρα πολλές βελτιωτικές προσθήκες (Integrate-and-Fire with adaptation, Quadratic Integrate-and-Fire, Integrate-and- Fire or Burst) μετά την εμφάνισή του, αλλά το μεγάλο μειονέκτημά του παραμένει η αδυναμία ακριβούς προσομοίωσης των μη γραμμικών ταλαντώσεων που παρουσιάζουν οι νευρώνες φλοιού. Εντούτοις, ως πολύ ικανοποιητική εξιδανίκευση, εξακολουθεί να αποτελεί τη βάση της μελέτης της νευρωνικής συμπεριφοράς. ii. Hodgkin Huxley Πρόκειται για το πληρέστερο και με βιολογικής σημασίας παραμέτρους μοντέλο. Αυτός ο πρωτοπόρος SiN, είναι ικανός να προσομοιώνει με ακρίβεια τα ρεύματα ιόντων της μεμβράνης, ενώ σε συνδυασμό με δύο επιπλέον ρεύματα ελέγχου του ρυθμού παραγωγής αιχμών, καταφέρνει να αποδίδει και τα 20 μοτίβα που παρουσιάστηκαν προηγουμένως. Βελτιστοποιήσεις του εμφανίστηκαν αργότερα και υλοποιήθηκε κυκλωματικά με πολύ μεγάλη επιτυχία από τους Saїghi et al. Παρά το γεγονός πως είναι ο ιδανικός μίμος, το μειονέκτημά του είναι η πολυπλοκότητα, η οποία ανεβάζει κατακόρυφα τις απαιτήσεις υπολογισμών για ένα μεγάλης κλίμακας σύστημα. iii. Izhikevich Αποτελώντας απλοποίηση του μοντέλου Hodgkin Huxley, βελτίωσε κατά πολύ την αποδοτικότητα των κυκλωματικών υλοποιήσεων αφού βασίζεται σε μόνο 4 κύριες παραμέτρους με ταυτόχρονη επίτευξη των γραμμικών και των μη γραμμικών

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 21 ταλαντώσεων. Από την εμφάνισή του (2003) έως σήμερα, έχει υλοποιηθεί σε αρκετές τοπολογίες συμπεριλαμβανομένων και αυτών του πεδίου του λογαρίθμου (logdomain). Τα μειονεκτήματα που του έχουν αποδοθεί, είναι τα εξής: α) πρόκειται για μοντέλο που βασίζεται στη φαινομενολογία της νευρωνικής συμπεριφοράς και β) αποτελείται από παραμέτρους που δεν έχουν νόημα για τα βιοφυσικά χαρακτηριστικά των νευρώνων. Εκτός αυτών, υστερεί και στο γεγονός πως θεωρείται ως ένα clock-based μοντέλο, που σημαίνει πως δεν είναι γενικά συμβατό με το πρωτόκολλο διανευρωνικής επικοινωνίας Address-Event-Representation (AER), το οποίο υποστηρίζει event-based νευρωνικά μοντέλα. Μετά τη σύντομη παρουσίαση των μοντέλων και σε συνδυασμό με την εισαγωγή της παραγράφου 2.1, προκύπτει η ανάγκη σύγκρισης της υπολογιστικής πολυπλοκότητας του καθενός από αυτά. Για αυτόν το σκοπό, ακολουθεί ένας συγκριτικός πίνακας των μοντέλων της βιβλιογραφίας ο οποίος ακολουθείται από μία κατηγοριοποίηση αυτών ως προς το υπολογιστικό κόστος και την αποτελεσματική αναπαράσταση των βιολογικών χαρακτηριστικών. Πίνακας 2.1 Σύγκριση των υπολογιστικών χαρακτηριστικών των νευρωνικών μοντέλων[9]

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 22 Σχήμα 2.4 Κατηγοριοποίηση των νευρωνικών μοντέλων[9] Σε αυτό το σημείο, πρέπει να σημειωθεί ότι μελετήθηκαν περισσότερα μοντέλα νευρώνων από τα αναφερθέντα, όπως τα Resonate-and-Fire, FitzHugh Nagumo και Morris Lecar. Δεν αναλύονται στην παράγραφο αυτή καθώς δεν ανταποκρίνονται στην τεχνική σχεδίασης που ακολουθήθηκε. Αντίθετα, επιλέχθηκε τελικά το μοντέλο Mihalas Niebur (2009) ως μεταγενέστερο των προηγουμένων δεν βρίσκεται στον πίνακα 2.1, τον οποίο μάλιστα οι Mihalas και Niebur αμφισβητούν στη διάλεξή τους με τίτλο A Generalized Linear Integrate And Fire Neural Model Produces Diverse Spiking Behaviors το οποίο πλεονεκτεί των υπολοίπων ως προς τον συνδυασμό της χαμηλής υπολογιστικής πολυπλοκότητας και των μεταβλητών που μπορούν να μεταφραστούν σε πραγματικά βιοφυσικά χαρακτηριστικά του νευρώνα. 2.3 Μοντέλο Mihalas-Niebur Όπως φάνηκε από τις προηγούμενες παραγράφους, η πολυπλοκότητα του μοντέλου που περιγράφει έναν νευρώνα παίζει καταλυτικό ρόλο για την εξομοίωση ενός νευρωνικού δικτύου. Όμως, είναι εύκολα κατανοητό πως ένα απλοϊκό μοντέλο δεν μπορεί να αποτελέσει βάση για ένα δίκτυο μεγάλης κλίμακας. Έτσι, από τη μία υπάρχει το απλό Integrate-and-Fire μοντέλο με την ελάχιστη πολυπλοκότητα και την αδυναμία απόδοσης πολλών βιολογικών χαρακτηριστικών και το μοντέλο Hodgkin Huxley από την άλλη, με τις βιολογικά αντιστοιχιζόμενες παραμέτρους και την μεγάλη ακρίβεια αλλά και με την απαγορευτική πολυπλοκότητα. Μια αποδεδειγμένα πολύ αποδοτική λύση, είναι η γενίκευση του απλού μοντέλου Integrate-and-Fire. Αυτή οδηγεί σε ένα υβριδικό μοντέλο που μπορεί να περιγραφεί από συνήθεις διαφορικές εξισώσεις και μερικούς κανόνες ενημέρωσης (update rules)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 23 της κατάστασης του νευρώνα μετά την πυροδότηση αιχμών. Η ολοκλήρωση του μοντέλου απαιτεί τη θεώρηση ενός κατωφλίου (threshold). Αυτό ορίζει εκείνη την οριακή τιμή της τάσης, κατά την οποία το δυναμικό της μεμβράνης θα επαναποπολωθεί παράγοντας το αναγκαίο δυναμικό ενέργειας (action potential) που είναι υπεύθυνο για την μετάδοση των σημάτων μεταξύ των νευρώνων. Σχ. 2.5 α) Ιδανικό δυναμικό ενέργειας, β) πραγματικό δυναμικό ενέργειας (https://en.wikipedia.org/wiki/dendritic_spike) Σύμφωνα με την παράγραφο 2.1 και το σχήμα 2.5, τα βασικότερα μεγέθη που απαιτούνται για να περιγραφεί η λειτουργία των νευρώνων αιχμών είναι α) το δυναμικό της μεμβράνης, το οποίο συνεπάγεται τα ρεύματα αιχμών και β) η τάση κατωφλίου. Επιπλέον, στο σχήμα απεικονίζονται με κατανοητό τρόπο μεγέθη όπως είναι το δυναμικό ηρεμίας, δηλαδή αυτό από το οποίο εκκινεί η αιχμή και η χρονική διάρκεια της αιχμής. Αυτά σαφώς και πρέπει να ενσωματωθούν στο εκάστοτε μοντέλο. Τέλος, τα ιόντα της μεμβράνης σε συνδυασμό με το δυναμικό της ορίζουν τη χωρητικότητα αυτής, η οποία συνδέεται άμεσα με τη σταθερά χρόνου. Συγκεντρώνοντας όλες τις παραπάνω παραμέτρους σε τρεις διαγωνοποιήσιμες γραμμικές διαφορικές εξισώσεις σε συνδυασμό με τρεις κανόνες ενημέρωσης το μοντέλο MN μπορεί και παράγει όλα τα μοτίβα αιχμών που παρουσιάστηκαν στην παράγραφο 2.1.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 24 Σχ. 2.6 Μοτίβα αιχμών μοντέλου Mihalas-Niebur[1] Αναλύοντας το μοντέλο με σκοπό την προσαρμογή του σε κυκλωματική υλοποίηση, η περιγραφή του μπορεί να γίνει με τρεις εξισώσεις: i. Εσωτερικά ρεύματα αιχμών Τα επαγόμενα ρεύματα αιχμών είναι χρονικά εξαρτώμενα και θεωρώντας αυθαίρετο αριθμό j και έναν παράγοντα k με ελεύθερα επιλεγμένη τιμή, προκύπτει η σχέση που δείχνει την εξάρτηση των ρευμάτων πριν και μετά την πυροδότηση: I j(t) = k j I j (t), με j = 1,, N Τα εσωτερικά αυτά ρεύματα αποσβένονται με την πάροδο του χρόνου γεγονός που εξηγεί το μείον στην προηγούμενη σχέση. Μια πιο βολική μορφή της προηγούμενης εξίσωσης είναι η ακόλουθη: di j dt = k ji j, j = 1,, N (2.1)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 25 ii. Δυναμικό μεμβράνης Το δυναμικό της μεμβράνης θεωρείται πως έχει μία τιμή ηρεμίας Vmem0. Έτσι, το χρονικά μεταβαλλόμενο δυναμικό της μεμβράνης μπορεί να εκφραστεί ως το άθροισμα Vmem + Vmem0. Παρουσία σταθερού εξωτερικού ρεύματος διέγερσης (Iex) και λαμβάνοντας υπ όψιν τη χωρητικότητα Cmem αυτής, το δυναμικό μεμβράνης εξελίσσεται χρονικά σύμφωνα με τη σχέση: V mem (t) = 1 (I C ex + I j (t) G(V mem (t) E L )) mem j Εφόσον, σύμφωνα με το μοντέλο, οι παράμετροι G και EL έχουν τιμές αυθαίρετα επιλεγμένες, η διαφορική μορφή της εξίσωσης μπορεί να γραφεί ως εξής: dv mem dt = 1 (I C ex + I j GV mem ) mem j (2.2) iii. Κατώφλι εξαρτώμενο από τάση Στο μοντέλο ΜΝ εισάγεται κατώφλι που είναι εξαρτώμενο από τάση Excitation & Accomodation in Nerve, A.V. Hill, 1935 με την έννοια της εφαρμογής των αποτελεσμάτων των εξαρτώμενων ρευμάτων στο κατώφλι αντί του δυναμικού της μεμβράνης. Απόρροια αυτού είναι η επίτευξη της μεταβλητότητας κατωφλίου (προσαρμογή κατωφλίου) και βιολογικών χαρακτηριστικών όπως: phasic/tonic spiking, accommodation, rebound spikes κ.α. Αναφορικά με τη χρονική εξέλιξη αυτού του κατωφλίου, ισχύει η σχέση: Θ (t) = α(v(t) E L ) b(θ(t) Θ ) με τις παραμέτρους α, b, Θ και EL να είναι ελεύθερα επιλέξιμες. Έτσι, η παραπάνω προσαρμόζεται στην εξίσωση (2.3):

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 26 dθ dt = αv mem bθ (2.3) Είναι άξιο αναφοράς πως το μοντέλο MN μπορεί να θεωρηθεί γενίκευση του μοντέλου Leaky Integrate-and-Fire. Αυτό σημαίνει πως στις εξισώσεις του, θα πρέπει να εμπεριέχονται οι έννοιες της πυροδότησης των αιχμών βάσει ενός κατωφλίου και της επακόλουθης επαναφοράς (reset) του δυναμικού της μεμβράνης στην τιμή ηρεμίας του. Αυτές οι έννοιες προϋποθέτουν μια σειρά κανόνων ενημέρωσης των μεταβλητών κατάστασης (state variables), υπό τη συνθήκη Vmem + Vmem0 = Θ + Θ0. Για την πυροδότηση του νευρώνα λοιπόν, θα ισχύει ότι: Ι j (t) R j I j (t) + A j, V(t) V r, (2.4) Θ(t) max (Θ r, Θ(t)) Συνοψίζοντας, το μοντέλο MN περιγράφεται από την τριάδα εξισώσεων (2.1), (2.2) και (2.3) σύμφωνα με τις οποίες: Τα ρεύματα αιχμών δεν εξαρτώνται από τις άλλες μεταβλητές κατάστασης Το δυναμικό μεμβράνης εξαρτάται μόνο από το εξωτερικό ρεύμα διέγερσης Το κατώφλι μεταβάλλεται συναρτήσει του δυναμικού της μεμβράνης ενώ η ενημέρωση των μεταβλητών κατάστασης βασίζεται στις αυθαίρετες παραμέτρους Rj, Aj και στις τιμές επαναφοράς Vr και Θr του δυναμικού μεμβράνης και του κατωφλίου αντίστοιχα.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 28 ΚΕΦΑΛΑΙΟ 3 ΚΥΚΛΩΜΑΤΑ ΣΤΟ ΠΕΔΙΟ ΤΟΥ ΥΠΕΡΒΟΛΙΚΟΥ ΗΜΙΤΟΝΟΥ 3.1 Εισαγωγή Για αρκετά χρόνια, τα αναλογικά κυκλώματα περιορίζονταν κυρίως στη γραμμική επεξεργασία σημάτων. Επιπλέον, οι μη γραμμικές ιδιότητες των διπολικών (bipolar) transistors αποτελούσαν μειονέκτημα για τη λειτουργία τους. Όμως όπως και στην περίπτωση των διαρροών υποκατωφλίου βρέθηκε ο τρόπος αξιοποίησης αυτών, χάρη στην αρχή της διαγραμμικότητας (TransLinear Principle TLP). Πρόκειται για την αρχή που διέπει τα διαγραμμικά κυκλώματα ( Translinear circuits: a proposed classification, B. Gilbert, 1975) και η οποία εν συντομία συμπυκνώνεται στο ότι: διατρέχοντας έναν βρόγχο με άρτιο αριθμό n διαγραμμικών στοιχείων κατά την ωρολογιακή φορά, το γινόμενο των ρευμάτων ισούται με το γινόμενο των ρευμάτων των στοιχείων που συναντώνται στην αντίθετη φορά, ή: I n = I n CW CCW (3.1) θεωρώντας πως το ιδανικό διαγραμμικό στοιχείο υπακούει στη σχέση: I = λi s e βv k V T (3.2) με καθορισμένους παράγοντες λ και β, ρεύμα διαβάθμισης (scaling) Is και τάση ελέγχου (control voltage) Vk, ενώ με VT συμβολίζεται η θερμική τάση η οποία μπορεί να υπολογιστεί με την εξίσωση 3.3: V T = k T q (3.3) αν k οριστεί η σταθερά Boltzmann, T η θερμοκρασία της επαφής p-n και q το φορτίο των φορέων.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 29 Από την εξίσωση 3.2 είναι φανερό πως τα διαγραμμικά κυκλώματα βασίζονται στην εκθετική σχέση ρεύματος τάσης. Αυτό μας οδηγεί να τα συνδέσουμε με την εκθετική σχέση των διπολικών transistors. Επιπροσθέτως, αν συνεκτιμηθεί ότι τα MOSFET transistors που λειτουργούν στον κόρο (saturation) και βρίσκονται στην ασθενή αναστροφή, υπόκεινται στη σχέση: I D e κv GS V T (3.4) όπου με κ συμβολίζεται ο παράγοντας σύζευξης της πύλης (gate coupling coefficient), γίνεται προφανές πως η σχεδίαση με αυτήν την τεχνική είναι εφαρμόσιμη και στην επιθυμητή για εμάς περιοχή υποκατωφλίου. Αυτό είναι εξαιρετικά ενδιαφέρον, καθώς επιτρέπει τη σχεδίαση κυκλωμάτων χαμηλής κατανάλωσης σε διαφορετικά πεδία, όπως είναι το πεδίο του λογαρίθμου (logdomain), το πεδίο τετραγωνικής ρίζας (square-root-domain) και το πεδίο υπερβολικού ημιτόνου (sinh-domain). 3.2 Συστήματα συμπίεσης/αποσυμπίεσης Το 1990, ο Seevinck παρουσίασε έναν ολοκληρωτή ( Companding current-mode integrator: a new circuit principle for continuous-time monolithic filters, 1990), ο οποίος ουσιαστικά αποτέλεσε το πρώτο φίλτρο στο πεδίο του λογαρίθμου. Ο όρος companding (COMpressing/exPANDING), χρησιμοποιείται για να περιγράψει συστήματα τα οποία πριν την επεξεργασία συμπιέζουν το σήμα και μετά από αυτή το επαναφέρουν με αποσυμπίεση, τεχνική που έχει ως αποτέλεσμα την αύξηση της δυναμικής περιοχής των σημάτων που μπορούν να διαχειριστούν. Αν θεωρηθεί ένα γραμμικό σύστημα του οποίου η συνάρτηση εκφράζεται βάσει του μετασχηματισμού Laplace, τότε αυτό μπορεί να παρασταθεί ως εξής: i in T(s) i out Σχ. 3.1 Γραμμικό σύστημα επεξεργασίας ρευμάτων Προφανώς η συσχέτιση εισόδου-εξόδου του παραπάνω συστήματος θα δίνεται από τον τύπο:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 30 i out = T(s) i in (3.5) Η ίδια επεξεργασία μπορεί να πραγματοποιηθεί από ένα σύστημα συμπίεσης/αποσυμπίεσης ακολουθώντας την διαδικασία του σχήματος 3.2. companding core i in compression u in T (s) u out expansion i out Σχ. 3.2 Σύστημα συμπίεσης/αποσυμπίεσης Σύμφωνα με το παραπάνω σχήμα, η διαδικασία περιλαμβάνει τη μετατροπή του ρεύματος εισόδου σε συμπιεσμένη τάση και στη συνέχεια, η επεξεργασμένη από τον companding core συμπιεσμένη τάση μετατρέπεται σε ρεύμα με αποσυμπίεση. Αυτονόητα, βγαίνει το συμπέρασμα πως η συμπίεση είναι η αντίστροφη διεργασία της αποσυμπίεσης. Συνεπάγεται λοιπόν ότι, εφόσον είναι επιθυμητή η επεξεργασία στο πεδίο του υπερβολικού ημιτόνου, θα πρέπει το σήμα αρχικά να συμπιεστεί με εφαρμογή της συνάρτησης sinh -1 και στο τελικό στάδιο να αποσυμπιεστεί με εφαρμογή της συνάρτησης sinh. Σχηματικά, ένα σύστημα στο πεδίο του υπερβολικού ημιτόνου θα ακολουθεί την κάτωθι διαδικασία: sinh-domain core i in sinh -1 u in T (s) u out sinh i out Σχ. 3.3 Σύστημα συμπίεσης/αποσυμπίεσης στο πεδίο του υπερβολικού ημιτόνου όπου: i out = sinh(u out ) u in = sinh 1 (i in ) (3.6)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 31 Είναι γνωστό πως το όρισμα του υπερβολικού ημιτόνου είναι ο εκθέτης στο ανάπτυγμά του, αφού: sinh(x) = e x e x 2 (3.7) αλλά από τη στιγμή που αυτός ο εκθέτης είναι η συμπιεσμένη τάση, η μορφή παραπέμπει σε αυτή της εξίσωσης 3.4. Πράγματι, ένα transistor που λειτουργεί στην περιοχή υποκατωφλίου έχει ρεύμα απαγωγού (drain) ίσο με: I D = I s e κv GS V T (1 e V DS V T ) (3.8) δεδομένου όμως ότι στον κόρο VDS > 4VT, αυτή μπορεί να απλοποιηθεί στη σχέση 3.9: I D = I s e κv GS V T (3.9) Το ρεύμα Is είναι ένα σταθερό ρεύμα που εξαρτάται από την τεχνολογία και μπορεί να αναλυθεί ως εξής: I s = 2 μ W L C ox V 2 T e κv thres V T κ (3.10) Όπου με μ συμβολίζεται η ευκινησία των φορέων, με Cox η χωρητικότητα του οξειδίου του πυριτίου και με Vthres η τάση κατωφλίου. Τέλος, ο παράγοντας σύζευξης της πύλης ισούται με: κ = C ox C ox + C depletion 0.7 (3.11) ενώ μπορεί να αντικατασταθεί και από τον παράγοντα n=1/κ 1,4. Έτσι, η εξίσωση 3.9 γράφεται και με τη μορφή:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 32 I D = I s e V GS nv T (3.12) Αν θεωρηθεί ότι η έξοδος μιας βαθμίδας είναι η αφαίρεση δύο ρευμάτων της μορφής 3.12, στα οποία έχει επέλθει εναλλαγή εισόδων η συνάρτηση sinh είναι περιττή, είναι υλοποιήσιμη η σχέση: i out = Ι constant e Vdiff/nV T Ι constant e Vdiff/nV T (3.13) Πλέον είναι φανερό ότι οι εξισώσεις 3.6(α), 3.7 και 3.13, σε συνδυασμό με την παραδοχή της έκφρασης των τάσεων u out ως προς μία σταθερή τάση VDC (V diff = u out V DC ), οδηγούν στον τύπο του τελεστή sinh: i out = 2Ι constant sinh ( u out V DC nv T ) (3.14) Άρα, για τον τελεστή sinh -1 (εξ. 3.6(β)) θα ισχύει ότι: i in sinh 1 ( ) = u in V DC 2Ι constant nv T ή i in u in = V DC + nv T sinh 1 ( ) 2Ι constant (3.15) Η ανάλυση που προηγήθηκε, επιτρέπει τον ορισμό των συμβόλων των τελεστών sinh και sinh -1 ο δεύτερος μπορεί να εξαχθεί κυκλωματικά από τον πρώτο εάν προσαρμοστούν οι είσοδοι/έξοδοι αλλά επιπλέον επεκτείνεται και στον εξίσου χρήσιμο τελεστή cosh, αφού αυτός προκύπτει από την πρόσθεση των ρευμάτων της εξ. 3.12 σύμφωνα με τη μαθηματική του συνάρτηση. Συμπερασματικά, τα σύμβολα των τελεστών συμπεριλαμβανομένων των εισόδων, εξόδων και πολώσεων τους συγκεντρώνονται στο σχήμα 3.4:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 33 Ι 0 Ι 0 i in u out + S i out + S i u in V DC V DC Ι 0 u out + C i out V DC Σχ. 3.4 Τελεστές sinh, sinh -1 και cosh αντίστοιχα Παρατηρήσεις: Οι είσοδοι των τελεστών δεν διαρρέονται από ρεύμα. Η συμπληρωματικότητα των τελεστών sinh και sinh -1 επιτρέπει σε πολλές περιπτώσεις την αντικατάστασή τους από την απευθείας εφαρμογή του ρεύματος εισόδου στον πυρήνα του συστήματος. Οι διαγραμμικοί βρόγχοι που συνθέτουν τα blocks S και C δίνουν τη δυνατότητα της ενσωμάτωσης 2 ή περισσοτέρων blocks σε ένα, εφόσον αυτά τροφοδοτούνται ομοίως, τεχνική που μειώνει τον αριθμό των απαιτούμενων transistors και διευκολύνει τη διαχείριση των εισόδων/εξόδων τους. Λόγω των ιδιοτήτων του υπερβολικού ημιτόνου, η εναλλαγή των εισόδων του S block καθορίζει τη φορά του ρεύματος εξόδου. Έτσι, εάν η u out εφαρμοστεί στον αρνητικό ακροδέκτη και η VDC στο θετικό, η φορά του iout θα είναι η αντίθετη αυτής του σχήματος 3.4(α).

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 34 3.3 Ολοκληρωτές στο πεδίο του υπερβολικού ημιτόνου Το πλέον ενδιαφέρον χαρακτηριστικό των διαγραμμικών κυκλωμάτων, είναι η ευκολία με την οποία μπορούν να συνθέτουν επιμέρους cells current-mode (CM) συστημάτων επεξεργασίας σημάτων, όπως είναι οι πολλαπλασιαστές (multipliers), οι διαιρέτες (dividers) και οι τετραγωνιστές (squarers) ρεύματος. Ο διαιρέτης ρεύματος, για παράδειγμα, χρησιμοποιείται στη σχεδίαση μίας κατηγορίας κυκλωμάτων με τεράστια σημασία στα συστήματα επεξεργασίας σημάτων, όπως είναι οι ολοκληρωτές (integrators). Ως γνωστόν, ο ολοκληρωτής μπορεί να θεωρηθεί και ως ένα τυπικό βαθυπερατό φίλτρο (Low-Pass Filter LPF). Η σχεδίασή του λοιπόν, αποτελεί τη βάση για την ανάπτυξη του νευρωνικού μοντέλου της εργασίας. Μεταξύ εισόδου και εξόδου ενός ιδανικού ολοκληρωτή (lossless integrator) με σταθερά χρόνου (time constant) τ ισχύει ότι: i out (t) = 1 τ i In(t)dt ή τ d(i out) dt = i in (3.16) Λόγω της εξίσωσης 3.14, η σχέση 3.16 μπορεί να πάρει την εξής μορφή: τ d (2Ι constant sinh ( u out V DC nv T )) dt = i in (3.17) η οποία ισούται με: τ 2Ι constant cosh ( u out V DC nv T ) 1 nv T = i in (3.18) Ακόμα, λύνοντας την εξ. 3.15 ως προς iin αυτή τροποποιείται ως εξής: i in u in V DC = sinh 1 ( ) nv T 2Ι constant

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 35 sinh ( u in V DC nv T ) = i in 2Ι constant (3.19) Τελικά, συνδυάζοντας τις εξισώσεις 3.18 και 3.19 προκύπτει ότι: τ cosh ( u out V DC nv T ) 1 nv T = sinh ( u in V DC nv T ) ή τ = nv T sinh ( u in V DC nv T ) cosh ( u out V DC nv T ) (3.20) Μετά την παραπάνω ανάλυση, η έκφραση του ρεύματος για τον πυκνωτή ολοκλήρωσης σε ένα σύστημα συμπίεσης/αποσυμπίεσης γίνεται: i c = C d(u out) dt i c = τ d(u out ) R eq dt R eq =(1 g m ) 2=nV T 2Ι bias,u out =σταθ. i c = 2Ι bias sinh ( u in V DC nv T ) cosh ( u out V DC nv T ) (3.21) Σε αυτό το σημείο εμφανίζεται η πρόκληση της διαίρεσης δύο ρευμάτων και συγκεκριμένα αυτό ενός τελεστή sinh προς το ρεύμα ενός τελεστή cosh. Απαιτείται λοιπόν ένας διαιρέτης ρεύματος, πολωμένος με σταθερό ρεύμα 2Ibias. Αποδεικνύεται[13] ότι αυτός ο περιορισμός μπορεί να διευθετηθεί καθιστώντας το διαιρέτη ρεύματος μη άμεσα εξαρτώμενο από το ρεύμα των υπόλοιπων cells. Έτσι αυτός μπορεί να πολωθεί με ένα ρεύμα IDIV < 2Ibias. Η υλοποίηση ενός διαιρέτη ρεύματος απλοποιείται σημαντικά με τη χρήση των τελεστών που περιγράφηκαν. Πράγματι, το επιθυμητό αποτέλεσμα μπορεί να παραχθεί από την άμεση σύνδεση δύο τελεστών sinh (S cells):

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 36 i 2 i 1 Ι bias + S u + S i out V DC V DC Σχ. 3.5 Διαιρέτης ρεύματος 2 τεταρτημορίων i 1 i 2 Ι bias i out Σχ. 3.6 Σύμβολο του διαιρέτη ρεύματος 2 τεταρτημορίων Από το σχήμα 3.5 είναι φανερό ότι: u = V DC + nv T sinh 1 ( i 1 2i 2 ) (3.22) Άρα για το ρεύμα εξόδου προκύπτει ότι: i out = 2Ι bias sinh ( u V DC nv T ) 3.21 V DC + nv T sinh 1 ( i 1 ) V 2i DC i out = 2Ι bias sinh ( 2 ) nv T i out = Ι bias i 1 i 2 (3.23)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 37 Πλέον είναι δυνατή η υλοποίηση της εξίσωσης 3.21 και κατ επέκταση του ολοκληρωτή χωρίς απώλειες από την παρακάτω τοπολογία: Compression Core Expansion Ι bias i in Ι bias + S u in + S i s V DC Ι DIV Ι bias V DC Ι bias u out + S i out + C i c C V DC Σχ. 3.7 Υλοποίηση ολοκληρωτή χωρίς απώλειες στο πεδίο του υπερβολικού ημιτόνου Παρατηρήσεις: Σύμφωνα και με τις παρατηρήσεις της παραγράφου 3.2, τα δύο core cells μπορούν να ενσωματωθούν σε ένα. Η συμπληρωματικότητα των τελεστών sinh και sinh -1 σε αυτήν την τοπολογία, επιτρέπει την αντικατάστασή τους από την απευθείας εφαρμογή του ρεύματος εισόδου στη μία εκ των εισόδων του διαιρέτη ρεύματος. Μπορεί να δειχθεί[13] ότι η σταθερά χρόνου του παραπάνω ολοκληρωτή είναι: τ = nc V T I DIV (3.24) Αυτό υποδεικνύει ότι η σταθερά χρόνου είναι ηλεκτρονικά ελεγχόμενη από το ρεύμα πόλωσης του διαιρέτη ρεύματος. Με αυτόν τον τρόπο επιτυγχάνεται η ανεξαρτησία της από τα ρεύματα πόλωσης των υπολοίπων cells και αποδεσμεύει το σχεδιαστή από την ανάγκη χρήσης μεγάλης χωρητικότητας.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 38 Λαμβάνοντας υπ όψιν τα παραπάνω, η υλοποίηση ενός ιδανικού ολοκληρωτή απλοποιείται σε αυτή του σχήματος 3.8: i in Ι DIV Ι bias + S/C C S i c C i out V DC Σχ. 3.8 Απλοποιημένη υλοποίηση ολοκληρωτή χωρίς απώλειες στο πεδίο του υπερβολικού ημιτόνου Επεκτείνοντας την ανάλυση σε έναν μη ιδανικό ολοκληρωτή (lossy integrator), δεν θα ισχύει πλέον η εξίσωση 3.16, αλλά η εξής: τ d(i out) dt = i in i out (3.25) με αποτέλεσμα, η σχέση του ρεύματος του πυκνωτή ολοκλήρωσης να τροποποιείται στην ακόλουθη: sinh ( u in V DC ) sinh ( u out V DC ) nv i c = 2Ι T nv T bias cosh ( u out V DC ) nv T (3.26) Απαιτείται λοιπόν η αφαίρεση των ρευμάτων των τελεστών sinh. Επομένως, η μία είσοδος του διαιρέτη ρεύματος πρέπει να τροφοδοτείται από την αφαίρεση αυτή ενώ η δεύτερη θα είναι συνδεδεμένη με την έξοδο ενός τελεστή cosh. Συμπερασματικά, ένας ολοκληρωτής με απώλειες μπορεί να υλοποιηθεί από την εξής τοπολογία:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 39 Compression Core Expansion Ι bias i in Ι bias + S u in + S i s V DC Ι DIV Ι bias V DC u out + S i out + S/C Ι bias S C i c i s C V DC Σχ. 3.9 Υλοποίηση ολοκληρωτή με απώλειες στο πεδίο του υπερβολικού ημιτόνου Στην τοπολογία του σχήματος 3.9 και συγκεκριμένα στο cell S/C, έχει γίνει χρήση της ιδιότητας του τελεστή sinh σύμφωνα με την οποία, η εναλλαγή των εισόδων του «δίνει» αντίθετο ρεύμα εξόδου. Κατά τα άλλα, οι ίδιες παραδοχές που έγιναν για τον ιδανικό ολοκληρωτή, θα ισχύουν και στον ολοκληρωτή με απώλειες. Επομένως, τα core cells μπορούν να συγχωνευθούν σε ένα, ενώ με την απευθείας τροφοδοσία της μίας εκ των εισόδων του διαιρέτη ρεύματος δεν απαιτείται η χρήση των τελεστών συμπίεσης και αποσυμπίεσης. Τελικά, η απλοποιημένη υλοποίηση του ολοκληρωτή με απώλειες θα είναι αυτή του σχήματος 3.10: i in Ι DIV Ι bias + S/S /C S C S i s i c C i out V DC Σχ. 3.10 Απλοποιημένη υλοποίηση ολοκληρωτή με απώλειες στο πεδίο του υπερβολικού ημιτόνου

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 40 3.4 Μη γραμμικοί διαγωγοί με MOS transistors Βάσει της αρχής της διαγραμμικότητας, τα βασικά cells του συστήματος μπορούν να σχεδιαστούν είτε με διπολικά (bipolar) transistors, είτε με MOSFET transistors τα οποία λειτουργούν στην περιοχή υποκατωφλίου. Η επιλογή των δεύτερων έγινε με τα εξής κριτήρια: Η θεωρητικά άπειρη αντίσταση εισόδου των MOS transistors συνεπάγεται την ανυπαρξία ρεύματος στην πύλη τους, η οποία οδηγεί με τη σειρά της σε μικρότερη τάση τροφοδοσίας και κατ επέκταση μικρότερη κατανάλωση. Η διαγωγιμότητα (transconductance) ενός MOS transistor στην ασθενή αναστροφή ισούται με: g m = I bias nv T (3.27) και συγκρινόμενη με αυτή ενός διπολικού (gm=ic/vt) βρίσκεται μικρότερη, οδηγώντας σε μικρότερες χωρητικότητες για συγκεκριμένη σταθερά χρόνου της μορφής 3.24. Συνεπώς, η σχεδίαση των τελεστών σε επίπεδο transistor πρέπει να εγγυάται τη διαρκή λειτουργία των transistors τους στην ασθενή αναστροφή, δηλαδή απαιτείται κάθε στιγμή να ισχύει ότι: V GS V thres < 100mV V DS > 4V T (3.28) έτσι ώστε το ρεύμα του απαγωγού να δίνεται από τον τύπο 3.12. Σύμφωνα με όλα τα παραπάνω, η τοπολογία του τελεστή sinh παρουσιάζεται στο σχήμα 3.11:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 41 V DD M p10 M p11 M p5 A B M p6 i 1 ˆ IN2 M p1 M p2 M p3 M p4 ˆ IN1 i s I bias i 1 i2 i 2 M n1 M n2 M n3 M n4 M n5 M n6 M n7 Σχ. 3.11 S cell με χρήση MOS transistors Από το σχήμα 3.11 συνάγεται ότι, από τον καθρέπτη ρεύματος (current mirror) Mn2-Mn3 το transistor Mn2 θα διαρρέεται από i1 ενώ λόγω του καθρέπτη Mp5-Mp6, στον απαγωγό του Mp6 καταλήγει επίσης i1. Αντίστοιχα από τον καθρέπτη Mn6-Mn7 προκύπτει ότι στον απαγωγό του Mn7 transistor θα εισέρχεται ρεύμα i2. Τέλος το ρεύμα εξόδου (is) θα είναι προφανώς ίσο με: i s = i 1 i 2 (3.29) Το ρεύμα πόλωσης (Ιbias) είναι φανερό ότι θα διατρέχει τους απαγωγούς των Mn1, Mn4 και Mn5. Δηλαδή αν ικανοποιούνται οι συνθήκες των εξισώσεων 3.28 και το ρεύμα των απαγωγών υπακούει στη σχέση 3.12 θα είναι: M p2 : I bias = I s e (u IN1 V A ) nv T (3.30) M p3 : I bias = I s e (u IN2 V B ) nv T (3.31) M p1 : i 1 = I s e (u IN2 V A ) nv T (3.32)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 42 M p4 : i 2 = I s e (u IN1 V B ) nv T (3.33) Άρα: (3. 32) (3. 30) : i 1 = I bias e (u IN1 u IN2 ) nv T (3.34) (3. 33) (3. 31) : i 2 = I bias e (u IN1 u IN2 ) nv T (3.35) Έτσι, η εξίσωση 3.29 γίνεται: i s = I bias e (u IN1 u IN2 ) nv T I bias e (u IN1 u IN2 ) nv T i s = 2I bias sinh ( u IN1 u IN2 nv T ) (3.36) Η ενσωμάτωση του C sell στην προηγούμενη τοπολογία απαιτεί μόνο την αλλαγή φοράς του ρεύματος i2 αφού: cosh(x) = e x + e x 2 (3.37) Αυτό επιτυγχάνεται στην τοπολογία του σχήματος 3.12:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 43 VDD M p10 M p11 M p5 A B M p6 M p7 M p8 M p9 i1 i2 IN2 ˆ M p1 M p2 M p3 M p4 IN1 ˆ is i1 ic Ibias i1 i2 i2 M n1 M n2 M n3 M n4 M n5 M n6 Mn7 M n8 Σχ. 3.12 S/C cell με χρήση MOS transistors Προκειμένου να καλυφθούν οι ανάγκες υλοποίησης των ολοκληρωτών και σύμφωνα με όσα περιγράφηκαν, απαιτείται η εισαγωγή ρευμάτων is αντίθετης φοράς όπερ σημαίνει: i s = i s ή i s = i 2 i 1 (3.38) δημιουργώντας έτσι το cell S/S'/C ή οποιονδήποτε επιθυμητό συνδυασμό. Κατά συνέπεια, μπορούν να σχεδιαστούν εύκολα οι κάτωθι τοπολογίες: VDD M p10 M p11 M p5 A B M p6 M p10 M p7 M p8 M p9 M p11 IN2 ˆ M p1 M p2 M p3 M p4 IN1 ˆ i1 is i1 i1 i2 ic i2 is' Ibias i1 i2 i2 i1 M n1 M n2 M n3 M n4 M n5 M n6 Mn7 M n8 M n9 M n10 Σχ. 3.13 S/S'/C cell με χρήση MOS transistors

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 44 VDD M p10 M p11 M p5 A B M p6 M p10 M p7 M p8 M p9 M p11 M p12 IN2 ˆ M p1 M p2 M p3 M p4 IN1 ˆ i1 is i1 i1 i2 ic i2 is' i2 is' Ibias i1 i2 i2 i1 i1 M n1 M n2 M n3 M n4 M n5 M n6 Mn7 M n8 M n9 M n10 M n11 Σχ. 3.14 S/S'/S'/C cell με χρήση MOS transistors

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 46 ΚΕΦΑΛΑΙΟ 4 ΜΟΝΤΕΛΟ Leaky-Integrate-and-Fire (LIF) 4.1 Εισαγωγή Η αναζήτηση ενός βασικού μοντέλου για την εξομοίωση των νευρώνων είναι υπόθεση που απασχολεί τους ερευνητές από τις αρχές του 20 ου αιώνα, ίσως και νωρίτερα. Συγκεκριμένα, το απλούστερο αυτών, το Integrate-and-Fire (IF), αναφέρεται στη δημοσίευση Recherches quantitatives sur l excitation électrique des nerfs traitée comme une polarization του Louis Lapicque, εν έτει 1907. Πολλά χρόνια αργότερα ( Some Models of Neuronal Variability, R. B. Stein, 1967), σε αυτό προστέθηκαν οι έννοιες της ολοκλήρωσης με απώλειες (leaky integration) και της επαναφοράς (reset), δημιουργώντας το Leaky Integrate-and-Fire, το βασικότερο νευρωνικό μοντέλο. Ανατρέχοντας στο κεφάλαιο 2, τα σήματα των νευρώνων μεταφέρονται μέσω των συνάψεων στο σώμα αυτών. Στοιχειωδώς, αυτό μπορεί να εξομοιωθεί από το κύκλωμα του σχήματος που ακολουθεί: Σχ. 4.1 Στοιχειώδες κυκλωματικό σχέδιο του Integrate-and-Fire μοντέλου (http://icwww.epfl.ch/~gerstner) Από την εξέταση του σχήματος, απορρέει ότι μία αιχμή (δ) πριν τη σύναψη φιλτράρεται από βαθυπερατό φίλτρο στο κύκλωμα της σύναψης, έτσι ώστε να παραχθεί ένας παλμός ρεύματος (α). Επιπλέον, για να προκύψει μία αιχμή εξόδου (δ), θα πρέπει η τάση του πυκνωτή να εξισωθεί με αυτή του κατωφλίου (θ) στο

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 47 κύκλωμα του σώματος το οποίο είναι και αυτό που μελετά η παρούσα εργασία. Σε αυτό, το ρεύμα (I) του κυκλώματος RC μπορεί να αναλυθεί ως εξής: I(t) = I R + I C I(t) = V R + C dv dt τ=rc τ dv = I(t)R V dt (4.1) Πρόκειται λοιπόν για την αντίστοιχη σχέση του ολοκληρωτή με απώλειες, σε voltage-mode κυκλώματα. Συνεπώς, ο ολοκληρωτής με απώλειες αποτελεί το βασικό cell της υλοποίησης του νευρωνικού μοντέλου MN, το οποίο είναι γενίκευση του LIF μοντέλου. 4.2 Υλοποίηση του μοντέλου LIF στο πεδίο του υπερβολικού ημιτόνου Οι τοπολογίες του μοντέλου MN που παρουσιάζονται στην παρούσα διπλωματική εργασία αποτελούν, όπως έχει ήδη αναφερθεί, βελτιωτική πρόταση στην υλοποίηση της εργασίας του 2013: Υλοποίηση Μοντέλων για Νευρώνες με χρήση Κυκλωμάτων Χαμηλής Τάσης Τροφοδοσίας [6]. Αυτή αφορά την CMOS κυκλωματική προσέγγιση του μοντέλου με χρήση βαθυπερατών φίλτρων 1 ης τάξης. Από αυτό συνάγεται ότι θα χρησιμοποιηθούν οι ολοκληρωτές με απώλειες ως βασικά cells γεγονός που τεκμηριώνεται από την ανάλυση που ακολουθεί. Η σχέση του μη ιδανικού ολοκληρωτή μπορεί να μετασχηματιστεί κατά Laplace ως εξής: L (τ d(i out) ) = L(i dt in ) L(i out ) τsi out i out0 = i in i out i out0 =0

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 48 i out (τs + 1) = i in (4.2) Επομένως, η συνάρτηση μεταφοράς του θα είναι: H(s) = 1 τs + 1 (4.3) κι έτσι μπορεί να θεωρηθεί ως ένα βαθυπερατό φίλτρο 1 ης τάξης. Όντως, αυτό επιβεβαιώνεται από την απόκριση συχνότητας του ολοκληρωτή (σχήμα 4.2), δεδομένου ότι 1/2πτ 8Hz: Σχ. 4.2 Απόκριση συχνότητας ολοκληρωτή με απώλειες Συνδέοντας δε αυτά τα συμπεράσματα με τις εξισώσεις 2.1-2.3 του μοντέλου MN, προκύπτουν οι μετασχηματισμένες εξισώσεις υλοποίησης του μοντέλου MN: (2. 1) τ j =1 k j I j = I DC (τ j s + 1) (4.4)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 49 (2. 2) τ mem =C mem G I mem = (I ex + I mem0 + I j j ) (τ mem s + 1) (4.5) (2. 3) τ θ =1 b, A θ =a b I θ = [A θ (I mem I mem0 ) + I θ0 ] (τ θ s + 1) (4.6) όπου στην πρώτη έχει εισαχθεί το ρεύμα IDC για τη διατήρηση του ρεύματος σε θετικές σταθερές τιμές. Αυτή η απαίτηση διατηρήθηκε για συμβατότητα με το νευρωνικό μοντέλο στο πεδίο του λογαρίθμου[5], καθώς το σύστημα έχει πλέον μεταφερθεί στο πεδίο του υπερβολικού ημιτόνου και είναι ικανό να διαχειριστεί και αρνητικές σταθερές τιμές. Σε αυτό το σημείο, για τη σχεδίαση του νευρώνα με χρήση βαθυπερατών φίλτρων, μπορούν να οριστούν και να διαχωριστούν δύο περιπτώσεις ανάλογα με την επιλογή των τιμών των βασικών παραμέτρων. Έτσι, εφόσον ικανοποιούνται οι συνθήκες: I j = 0 A θ = 0 (4.7) τότε το ρεύμα κατωφλίου είναι: I θ = I θ0 (4.8) ενώ το ρεύμα της μεμβράνης θα περιγράφεται από τη σχέση 4.9: Ι mem = I ex + I mem0 τ mem s + 1 I e =I ex +I mem0 Ι mem = I e τ mem s + 1 (4.9) με:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 50 τ mem = nc memv T I DIV (4.10) Η επόμενη περίπτωση όπου η παράμετρος Aθ δεν έχει μηδενική τιμή θα αναλυθεί στο επόμενο κεφάλαιο. Εν κατακλείδι, το μοντέλο που προέκυψε δεν είναι άλλο από το Leaky Integrate-and-Fire με σταθερό κατώφλι. Αυτό το κατώφλι θα είναι η τιμή εκείνη για την οποία ενεργοποιείται η διαδικασία επαναφοράς στο σταθερό ρεύμα μεμβράνης (εξισώσεις 2.4). Εμφανίζεται έτσι η ανάγκη σύγκρισης των τιμών Ιmem και Θ. Για αυτόν το σκοπό και εξαιτίας της ανάγκης ανίχνευσης πολύ μικρών ρευμάτων, χρησιμοποιήθηκε η τοπολογία υψηλής ταχύτητας συγκριτή[12] που ακολουθεί: V DD M 5 M p M 1 M 7 M 9 M 11 I in M 4 V out M 2 M 3 M 6 M 8 M n M 10 Σχ. 4.3 Τοπολογία υψηλής ταχύτητας συγκριτή μικρών ρευμάτων για την οποία αν θεωρηθεί ότι θετικό ρεύμα εισόδου είναι αυτό που ρέει προς το κύκλωμα και εφόσον επιλεχθεί η βολική τιμή VDD = 1V θα ισχύει: I in > 0 V out = 1V και I in < 0 V out = 0V Τέλος, η επαναφορά του ρεύματος Imem μπορεί εύκολα να επιτευχθεί από ένα nmos transistor, του οποίου η πηγή είναι συνδεδεμένη σε μία σταθερή τάση επαναφοράς Vr. Συγκεντρωτικά λοιπόν η τοπολογία, σε επίπεδο cells, του μοντέλου MN ως Leaky Integrate-and-Fire στο πεδίο του υπερβολικού ημιτόνου είναι αυτή του σχήματος 4.4:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 51 lossy integrator I ex Ι DIV Ι bias i s + S/S /S /C i c S C S S i mem C mem V DC reset comparator V spike Ι Θ V r Σχ. 4.4 Τοπολογία μοντέλου Leaky Integrate-and-Fire με σταθερό κατώφλι Για τη σχεδίαση των cells, έγινε χρήση του περιβάλλοντος Cadence και συγκεκριμένα του εργαλείου Virtuoso, ενώ ως τεχνολογία σχεδίασης επιλέχθηκε η AMS 0.35um (C35). Η διαδικασία σχεδίασης δομήθηκε ιεραρχικά από το κατώτερο επίπεδο, το επίπεδο transistor έως το ανώτερο το οποίο αποτελείται από σύμβολα (symbols) των cells. Ξεκινώντας αντίστροφα, δηλαδή από το ανώτερο επίπεδο και καταλήγοντας στο επίπεδο transistor, τα παραχθέντα σχηματικά παρουσιάζονται αμέσως παρακάτω.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 52 Σχ. 4.5 Σχηματικό μοντέλου Leaky Integrate-and-Fire με σταθερό κατώφλι Σχ. 4.6 Σχηματικό ολοκληρωτή με απώλειες

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 53 Σχ. 4.7 Σχηματικό διαιρέτη ρεύματος Σχ. 4.8 Σχηματικό συγκριτή υψηλής ταχύτητας Σχ. 4.9 Σχηματικό S cell

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 54 Σχ. 4.10 Σχηματικό S/S'/S'/C cell

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 55 4.3 Αποτελέσματα εξομοίωσης Μία διαδικασία που χρήζει ιδιαίτερης προσοχής και η οποία προηγείται της εξομοίωσης, είναι αυτή της επιλογής των διαστάσεων για τα transistors. Από τη στιγμή που αυτά επιβάλλεται να παραμένουν στην περιοχή της ασθενούς αναστροφής, οι περιορισμοί τίθενται από τις σχέσεις 3.28: V GS V thres < 100mV και V DS > 4V T V T 26mV V DS > 100mV Η όλη τοπολογία, είναι ικανή να επιτύχει καταναλισκόμενη ισχύ της τάξης των nw με τα ρεύματα των απαγωγών είναι της τάξης των μερικών δεκάδων pa. Γνωρίζοντας ότι η τάση κατωφλίου για τα transistors στην τεχνολογία των 350nm είναι περίπου 0.5V για τα nmos και 0.7V για τα pmos transistors, οι επιλεχθείσες διαστάσεις σύμφωνα με την εξίσωση 3.9 για την υλοποίηση του σχήματος 4.4 είναι: cell W/L (σχήμα 3.11) nmos pmos pmos (Mp10-Mp11) reset 20μm/0.50μm 160μm/1μm 20μm/0.45μm 10μm/3.80μm Πίνακας 4.1 Επιλεχθείσες διαστάσεις transistors των cells Αναφορικά με το συγκριτή του σχήματος 4.3, οι διαστάσεις των transistors πάρθηκαν από την αντίστοιχη εργασία[12]:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 56 comparator W/L (σχήμα 4.3) W (μm) L (μm) M1 0.50 0.35 M2 1.20 0.35 M3 0.50 0.60 M4 0.50 0.70 M5 2.50 1.00 M6 0.60 1.00 M7 1.80 1.00 M8 0.80 0.35 M9 3.70 0.35 M10 0.90 0.35 M11 3.50 0.35 Mn 1.90 0.35 Mp 5.00 0.35 Πίνακας 4.2 Διαστάσεις transistors του συγκριτή Επιπροσθέτως, δεδομένου ότι η σταθερά χρόνου για τη μεμβράνη (τmem) είναι 20ms και θέτοντας το ρεύμα πόλωσης του διαιρέτη ρεύματος (ΙDIV) ίσο με 20pA, ο πυκνωτής Cmem υπολογίζεται από τον τύπο 4.10, δηλαδή: τ mem = nc memv T I DIV C mem 10pF (4.11) Προκειμένου να ολοκληρωθεί η τοπολογία εξομοίωσης του νευρώνα (σχήμα 4.11), έπρεπε να οριστεί μια σειρά από παραμέτρους, οι τιμές των οποίων έχουν συγκεντρωθεί στον κατωτέρω πίνακα:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 57 παράμετρος τιμή περιγραφή A θ 0 λόγος των παραγόντων α,b τ mem 20ms σταθερά χρόνου μεμβράνης C mem 10pF χωρητικότητα μεμβράνης I bias 100pA ρεύμα πόλωσης των S/S'/S'/C και S cells I DIV 20pA ρεύμα πόλωσης διαιρέτη ρεύματος V DD 700mV τάση τροφοδοσίας V DC 150mV σταθερή τάση αναφοράς V DC_reset 150mV σταθερή τάση επαναφοράς V DD_dig 1V σταθερή τάση συγκριτή ρεύματος V GND 0V γείωση Πίνακας 4.3 Ρυθμίσεις παραμέτρων εξομοίωσης Σχ. 4.11 Σχηματικό τοπολογίας εξομοίωσης Leaky Integrate-and-Fire με σταθερό κατώφλι Εκκινώντας την εξομοίωση των μοτίβων της παραγράφου 2.1 και δεδομένου ότι για όλη τη διαδικασία της εξομοίωσης το δυναμικό ηρεμίας είναι ίσο με μηδέν

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 58 για την αναπαραγωγή του tonic spiking ορίστηκε σταθερό κατώφλι (Ith) ίσο με 320pA και σταθερό εξωτερικό ρεύμα (Ie) 250pA. Αντίστοιχα, για το μοτίβο class 1 προκειμένου να παρουσιαστεί η ιδιότητα των νευρώνων αιχμών κατά την οποία συμβαίνει η παραμονή του ρεύματος της μεμβράνης πολύ κοντά στο κατώφλι για αρκετά ms, προτού επέλθει η επαναφορά, επιλέχθηκε εξωτερικό ρεύμα ίσο με 230,8pA. Τα αποτελέσματα που εξήχθησαν, παρουσιάζονται αμέσως παρακάτω. Tonic spiking παράμετρος I e I θ Πίνακας 4.4 Ρυθμίσεις εξομοίωσης tonic spiking τιμή 250pA 320pA Σχ. 4.12 Εξομοίωση tonic spiking Class 1 spiking παράμετρος I e I θ Πίνακας 4.5 Ρυθμίσεις εξομοίωσης class 1 spiking τιμή 230.8pA 320pA

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 59 Σχ. 4.13 Εξομοίωση class 1 spiking 4.4 Συγκριτικά αποτελέσματα Κρίθηκε σκόπιμο σε αυτήν την παράγραφο να συγκεντρωθούν συγκριτικά στοιχεία που προέκυψαν μεταξύ της παρούσας υλοποίησης του νευρώνα MN και της υλοποίησης [6]. Συνοπτικά πραγματοποιήθηκαν οι εξής βελτιστοποιήσεις: Το τελικό σύστημα είναι ικανό να διαχειριστεί πολύ μεγαλύτερα ρεύματα Το πλάτος των παραγόμενων αιχμών δεν περιορίζεται πλέον από το ερέθισμα Το ρεύμα πόλωσης του διαιρέτη ρεύματος ανεξαρτητοποιήθηκε από το ρεύμα πόλωσης των υπόλοιπων cells (IDIV 2Ibias) Σχεδιάστηκε νέος συγκριτής ικανός να ανιχνεύει μικρότερα ρεύματα (σχήμα 4.14) Ελαττώθηκε ο αριθμός των απαιτούμενων transistors μετά την ενσωμάτωση αυτόνομων cells σε μεγαλύτερα

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 60 Αυξήθηκαν οι DC τάσεις των cells, για την προστασία της λειτουργίας των transistors στην περιοχή υποκατωφλίου. Σχ. 4.14 Σύγκριση υλοποιήσεων συγκριτών Για το απλό Integrate-and-Fire μοντέλο, τα συγκριτικά αποτελέσματα παρουσιάζονται στον πίνακα που ακολουθεί:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 61 Mihalas-Niebur SiN (Integrate-and-Fire) current implementation implementation [6] transistors 69 86 I bias 100pA 10pA I DIV 20pA 20pA C mem (depends on n factor) 10pF 10pF V DD 700mV 500mV V DC 150mV 100mV V DC_reset 150mV 100mV V DD_dig 1V 1V I tonic 250pA 50pA power dissipation (per spike) 5.34nW Πίνακας 4.6 Συγκριτικός πίνακας υλοποιήσεων 1.83nW Τα πλεονεκτήματα της νέας υλοποίησης είναι πολύπλευρα και δεν σταματούν σε αυτά που παρουσιάστηκαν στην αρχή της παραγράφου. Η σταθερότητα του συστήματος έχει αυξηθεί σημαντικά εξαιτίας της αύξησης των DC τάσεων. Έτσι, τα transistors ιδιαιτέρως τα nmos δεν λειτουργούν πλέον οριακά στην περιοχή υποκατωφλίου και αυξήθηκε το περιθώριο της τάσης VDS έτσι ώστε: VDS > 100mV. Ακόμα πιο ουσιώδης αύξηση είναι αυτή της δυναμικής περιοχής των ρευμάτων που μπορεί να διαχειριστεί το σύστημα. Με ενδεικτική πενταπλάσια πόλωση των cells από αυτή του διαιρέτη ρεύματος, στα 100pA, τα διαχειριζόμενα ρεύματα εισόδου ξεπέρασαν πειραματικά τα 300pA. Από την άλλη πλευρά, ο νόμος του trade-off στη σχεδίαση των αναλογικών ολοκληρωμένων κυκλωμάτων, κάνει την εμφάνισή του μέσω της αύξησης των διαστάσεων των transistors και της αύξησης κατά 200mV της τάσης τροφοδοσίας, οπότε κατ επέκταση και της τελικής κατανάλωσης ισχύος. Παρ όλα αυτά, με τάση VDD ίση με 0.7V και κατανάλωση ανά αιχμή στα 5 περίπου nw το σύστημα ικανοποιεί όλα τα κριτήρια των βιοϊατρικών συστημάτων πολύ χαμηλής τάσης τροφοδοσίας (very low-voltage).

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 63 ΚΕΦΑΛΑΙΟ 5 ΜΟΝΤΕΛΟ Leaky-Integrate-and-Fire (LIF) ΜΕ ΠΡΟΣΑΡΜΟΓΗ ΚΑΤΩΦΛΙΟΥ 5.1 Εισαγωγή Έως αυτήν τη στιγμή, δεν έχει χρησιμοποιηθεί η ιδιότητα του μοντέλου MN για προσαρμογή κατωφλίου (threshold adaptation) (εξίσωση 4.6). Η επίτευξη της προσαρμογής απαιτεί τον ορισμό της παραμέτρου Aθ με μη μηδενική τιμή, καθώς και τη σχεδίαση μίας δεύτερης βαθμίδας η οποία σύμφωνα με την όλη ανάλυση που προηγήθηκε θα περιγράφεται από τη συνάρτηση μεταφοράς: I θ = A θi mem sτ θ + 1 (5.1) με: τ θ = nc θv T I DIV (5.2) όπου σε αυτήν την περίπτωση πρέπει Iθ0 > Imem0. Από τις εξισώσεις 4.10 και 5.2, εφόσον οι δύο βαθμίδες είναι πολωμένες με το ίδιο ρεύμα, ορίζεται ο λόγος: τ θ τ mem = C θ C mem αλλά τυπικά τ θ 5τ mem, οπότε: C θ 50pF.

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 64 5.2 Υλοποίηση του μοντέλου LIF με προσαρμογή κατωφλίου στο πεδίο του υπερβολικού ημιτόνου Όπως προδίδει και η εξίσωση 5.1, η δεύτερη βαθμίδα μπορεί να υλοποιηθεί από έναν ακόμη μη ιδανικό ολοκληρωτή. Όμως η πρώτη βαθμίδα θα πρέπει να συμπεριλάβει τον πολλαπλασιαστικό όρο Aθ, ώστε να παράγει το ρεύμα AθImem που θα τροφοδοτεί τη δεύτερη βαθμίδα. Η σχεδιαστική ευκολία που παρέχουν τα διαγραμμικά κυκλώματα δίνουν τη λύση, αφού αρκεί η προσθήκη ενός ακόμα S cell για την επίτευξη του εν λόγω ρεύματος. Έτσι, η τοπολογία του μοντέλου MN ως Leaky Integrate-and-Fire με προσαρμογή κατωφλίου είναι αυτή που παρουσιάζεται στο σχήμα 5.2:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 65 lossy integrator I ex Ι DIV Ι bias i s + S/S /S /C i c S C S S i mem C mem V DC reset + S A θ Ι bias A θ I mem comparator V spike V r V DC lossy integrator i θ Ι DIV Ι bias i s + S/S/S /C S C S S i θ i c C θ V DC Σχ. 5.2 Τοπολογία μοντέλου Leaky Integrate-and-Fire με προσαρμόσιμο κατώφλι Η ιεραρχική σχεδίαση των cells παρατίθεται παρακάτω. Είναι αναγκαίο να διευκρινιστεί πως ο παράγοντας Αθ στην υλοποίηση της παρούσας εργασίας, αφέθηκε

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 66 παραμετροποιήσιμος δίνοντας τη δυνατότητα στο σχεδιαστή να μεταβάλλει το γινόμενο AθImem και κατ επέκταση το ρεύμα εισόδου της δεύτερης βαθμίδας. Έτσι, εξομοιώθηκαν περισσότερα μοτίβα αιχμών και παραλλαγές αυτών. Σχ. 5.3 Σχηματικό μοντέλου Leaky Integrate-and-Fire με προσαρμόσιμο κατώφλι

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 67 Σχ. 5.4 Σχηματικό ολοκληρωτή με απώλειες με επιπλέον έξοδο για τον παράγοντα A θ (πρώτη βαθμίδα) Σχ. 5.5 Σχηματικό ολοκληρωτή με απώλειες (δεύτερη βαθμίδα)

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 68 Σχ. 5.6 Σχηματικό S/S/S'/C cell

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 69 5.3 Αποτελέσματα εξομοίωσης Προχωρώντας στην εξομοίωση του νευρώνα που παρουσιάστηκε στις αμέσως προηγούμενες παραγράφους, η τοπολογία εξομοίωσης είναι αυτή του σχήματος 5.7: Σχ. 5.7 Σχηματικό τοπολογίας εξομοίωσης Leaky Integrate-and-Fire με προσαρμογή κατωφλίου Για αυτήν, οι διαστάσεις των transistors παρέμειναν ίδιες με αυτές της παραγράφου 4.3, εκτός από τη μείωση κατά το ήμισυ του μήκους καναλιού για τα transistor pmos, με σκοπό την επίτευξη της επιθυμητής ενίσχυσης του ρεύματος της μεμβράνης Imem. Επομένως, αφού οι διαστάσεις των transistors για το συγκριτή παρέμειναν ακριβώς ίδιες, για τις υπόλοιπες ορίστηκαν οι τιμές του πίνακα 5.1: cell W/L (σχήμα 3.11) nmos pmos pmos (Mp10-Mp11) reset 20μm/0.50μm 160μm/0.50μm 20μm/0.45μm 10μm/3.80μm Πίνακας 5.1 Επιλεχθείσες διαστάσεις transistors των cells ενώ οι τιμές των παραμέτρων εξομοίωσης διαμορφώθηκαν ως εξής:

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 70 παράμετρος τιμή περιγραφή τ mem 20ms σταθερά χρόνου μεμβράνης τ θ 100ms σταθερά χρόνου κατωφλίου C mem 10pF χωρητικότητα μεμβράνης C θ 50pF χωρητικότητα κατωφλίου I bias 100pA ρεύμα πόλωσης των S/S'/S'/C, S/S/S'/C και S cells I DIV 20pA ρεύμα πόλωσης διαιρέτη ρεύματος V DD 700mV τάση τροφοδοσίας V DC 150mV σταθερή τάση αναφοράς V DC_reset 150mV σταθερή τάση επαναφοράς V DD_dig 1V σταθερή τάση συγκριτή ρεύματος V GND 0V γείωση Πίνακας 5.2 Ρυθμίσεις παραμέτρων εξομοίωσης Το πρώτο μοτίβο αιχμών που εξομοιώθηκε, είναι το frequency adaptation. Σύμφωνα με το μοντέλο, αυτή η συμπεριφορά είναι η τυπική για ένα σταθερό συνεχές σήμα εισόδου. Δηλαδή, αναμένεται να παρατηρηθεί η ελάττωση του ρυθμού πυροδότησης με την πάροδο του χρόνου για σταθερό ρεύμα (σχέση 2.1). Με άλλα λόγια συμβαίνει συνεχής προσαρμογή του κατωφλίου ώστε να αυτό να ακολουθεί την ολοένα και μικρότερη συχνότητα πυροδότησης. Όντως, οι ενδεικτικές ρυθμίσεις του πίνακα 5.3 έδωσαν τα αναμενόμενα αποτελέσματα που παρουσιάζονται στο σχήμα 5.8: Frequency adaptation παράμετρος I e τιμή 250pA A θ 0.50 Πίνακας 5.3 Ρυθμίσεις εξομοίωσης frequency adaptation

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 71 Σχ. 5.8 Εξομοίωση frequency adaptation Στο μοτίβο frequency adaptation, η ελάττωση της συχνότητας πυροδότησης μπορεί να συνεχιστεί έως ότου το ερέθισμα δεν θα είναι αρκετό να προκαλέσει αιχμή. Τότε, το ρεύμα της μεμβράνης θα παραμένει κάτω από το κατώφλι για όσο διαρκεί το ερέθισμα. Αυτή η νευρωνική συμπεριφορά ονομάζεται phasic spiking και το μοτίβο της μπορεί να εξομοιωθεί με ευκολία εάν προσαρμοστεί ο παράγοντας Aθ, ο οποίος θα οδηγήσει γρήγορα στα επιθυμητά αδύναμα ρεύματα εισόδου και τελικά στο μοτίβο phasic spiking, όπως φαίνεται και στο σχήμα 5.9. Phasic spiking παράμετρος I e τιμή 250pA A θ 0.53 Πίνακας 5.4 Ρυθμίσεις εξομοίωσης phasic spiking

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 72 Σχ. 5.9 Εξομοίωση phasic spiking Ήδη από την εξομοίωση που προηγήθηκε, έγινε σαφές ότι η παρατηρούμενη συχνότητα των αιχμών προδίδει το πλάτος του ερεθίσματος. Ρυθμίζοντας κατάλληλα τον παράγοντα Aθ του υλοποιημένου νευρώνα και τροφοδοτώντας τον με ρεύμα εισόδου τύπου ράμπας (ramp), είναι εφικτό να παραχθεί η κυματομορφή του σχήματος 5.10, η οποία επιβεβαιώνει ότι το πλάτος του εισερχόμενου σήματος είναι αυξανόμενο. Αυτή η αυξημένη συχνότητα των αιχμών είναι χαρακτηριστικό μερικών νευρώνων, οι οποίοι δεν παράγουν αιχμές χαμηλών συχνοτήτων και το αντίστοιχο μοτίβο είναι γνωστό ως class 2 spiking. Class 2 spiking παράμετρος I e τιμή 100pA upto 250pA A θ 0.25 Πίνακας 5.5 Ρυθμίσεις εξομοίωσης class 2 spiking

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 73 Σχ. 5.10 Εξομοίωση class 2 spiking με εφαρμογή ρεύματος τύπου ράμπας Συνεχίζοντας με την αναπαραγωγή πολυπλοκότερων αιχμών, έγινε εξομοίωση της νευρωνικής ιδιότητας accommodation. Σύμφωνα με αυτή, παρά το γεγονός πως ένας νευρώνας μπορεί να είναι πολύ ευαίσθητος σε ένα μεγάλου πλάτους σήμα, εάν το ερέθισμα αυτό δεν εφαρμοστεί μονομιάς αλλά αντιθέτως συμβεί σταδιακά με διαδοχικούς παλμούς αυξανόμενου πλάτους τότε ο νευρώνας αυτός μπορεί να μην παράξει αιχμή (σχήμα 5.11). παράμετρος τιμή Accommodation I e1 I e2 I e3 I e4 250pA (1/3)*250pA (2/3)*250pA 250pA A θ 0.50 Πίνακας 5.6 Ρυθμίσεις εξομοίωσης accommodation

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 74 Σχ. 5.11 Εξομοίωση accommodation Μία ακόμα πολύ ενδιαφέρουσα ιδιότητα των νευρώνων, είναι η ανικανότητα παραγωγής αιχμών κατά τη διάρκεια της φάσης undershoot (σχήμα 2.5). Η φάση αυτή συμβαίνει στο χρονικό διάστημα μετά την υποβάθμιση του δυναμικού της μεμβράνης κάτω από το δυναμικό ηρεμίας, δηλαδή ενώ συνέβη υπερπόλωση (hyperpolarization) αυτής και έως ότου αυτή επανέλθει στο δυναμικό ηρεμίας. Το χρονικό αυτό διάστημα ονομάζεται σχετική ανερέθιστη περίοδος (relative refractory period) και στον υλοποιημένο νευρώνα παρότι δεν φαίνεται στα παραγόμενα action potentials, μπορεί να μελετηθεί «εικονικά» μετά από σχετικά μεγάλης διάρκειας αρνητικό παλμό. Προκειμένου να επιδειχθεί η εν λόγω κατάσταση η οποία αποτελεί κρίσιμη λειτουργία των ανασταλτικών συνάψεων (inhibitory synapses), παρεμβλήθηκαν διεγερτικά ερεθίσματα σε έναν πολύ ισχυρό ανασταλτικό (inhibitory) παλμό, ώστε να επιβεβαιωθεί πως θα υπάρξει προσαρμογή του κατωφλίου, χωρίς την παραγωγή αιχμών (σχήμα 5.12). Τα διεγερτικά ερεθίσματα όπως και σε άλλες εξομοιώσεις τις εργασίας μπορούν να παρομοιαστούν με ρεύματα που παράγονται από δυναμικά EPSP (Excitatory PostSynaptic Potential).

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 75 παράμετρος τιμή Hyperpolarization I e1 I e2 I e3 I e4 I e5-500pa 250pA 250pA 250pA 250pA A θ 0.50 Πίνακας 5.7 Ρυθμίσεις εξομοίωσης hyperpolarization Σχ. 5.12 Εξομοίωση hyperpolarization Στην κατηγορία των ανασταλτικών ρευμάτων εισόδου μπορεί να ενταχθεί άλλη μία ιδιότητα πολλών νευρώνων. Πρόκειται για το μοτίβο rebound spike το οποίο περιγράφει την κατάσταση κατά την οποία μετά από παραμονή του ρεύματος της μεμβράνης κάτω από αυτό της ηρεμίας και συγκεκριμένα τη στιγμή που παύει το ερέθισμα, μπορεί να παραχθεί μία αιχμή ανάκτησης (rebound spike) όπως δείχνει και το σχήμα 5.13. Το μοτίβο αυτό βασίζεται στο φαινόμενο Anode Break Excitation

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 76 (ABE) που συμβαίνει κατά τον τερματισμό του ρεύματος υπερπόλωσης (Ih) και προσεγγίστηκε στον νευρώνα της εργασίας χρησιμοποιώντας τις κατωτέρω ρυθμίσεις: Rebound spike παράμετρος I e1 τιμή -500pA A θ 0.50 Πίνακας 5.8 Ρυθμίσεις εξομοίωσης rebound spike Σχ. 5.13 Εξομοίωση rebound spike Δύο βασικές γενικότερες νευρωνικές ιδιότητες, είναι η ολοκλήρωση (integration) και η μεταβλητότητα κατωφλίου (threshold variability). Ξεκινώντας από την τελευταία, αυτή αναφέρεται στο γεγονός πως η θεώρηση του κατωφλίου ως σταθερό είναι αυθαίρετη καθώς τα πειραματικά δεδομένα στοιχειοθετούν την ικανότητα προσαρμογής του κατά την παραγωγή αιχμών. Μία στοχευμένη επίδειξη της εξάρτησης του κατωφλίου από την αμέσως προηγούμενη κατάσταση, περιλαμβάνει την παραγωγή αιχμής μόνο στην επανάκαμψη του νευρώνα από ένα ανασταλτικό ερέθισμα (σχήμα 5.14). Όσο αφορά το χαρακτηριστικό της ολοκλήρωσης, αυτό χρησιμοποιείται ευρέως για την ανίχνευση αλλεπάλληλων ερεθισμάτων, καθώς μόνο

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 77 τότε θα παραχθεί αιχμή αποτέλεσμα που μπορεί να επιβεβαιωθεί εάν τα ίδια ερεθίσματα δεν εφαρμοστούν αλλεπάλληλα, αλλά με μικρή χρονική καθυστέρηση (σχήμα 5.15). παράμετρος τιμή Threshold variability I e1 I e2 I e3 170pA -170pA 170pA A θ 0.50 Πίνακας 5.9 Ρυθμίσεις εξομοίωσης threshold variability Σχ. 5.14 Εξομοίωση threshold variability

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 78 παράμετρος τιμή Integration I e1 I e2 I e3 I e4 220pA 220pA 220pA 220pA A θ 0.50 Πίνακας 5.10 Ρυθμίσεις εξομοίωσης integration Σχ. 5.15 Εξομοίωση integration Κλείνοντας την παράγραφο των εξομοιώσεων, επιλέχθηκε να παρουσιαστεί η περίπτωση εμφάνισης πολλαπλών αιχμών (bursts). Αυτήν την ικανότητα την έχουν αρκετοί νευρώνες στο CNS και βρίσκεται υπό ενδελεχή έρευνα καθώς έχει συνδεθεί, εκτός των άλλων, με τη λειτουργία του εγκεφάλου κατά τη διάρκεια του ύπνου αλλά και με παθήσεις νευροπαθολογικής φύσεως όπως π.χ. η επιληψία. Στη συγκεκριμένη περίπτωση εξομοιώθηκε «εικονικά» ένα μοτίβο tonic bursting (σχήμα 5.16). Αυτό απαίτησε την εισαγωγή περιοδικών «αργών» ανασταλτικών παλμών ώστε να υποβαθμιστεί το δυναμικό της μεμβράνης και «γρηγορότερων» διεγερτικών παλμών

Υλοποίηση του νευρωνικού μοντέλου Mihalas-Niebur με χρήση κυκλωμάτων στο πεδίο του υπερβολικού ημιτόνου 79 οι οποίοι, κατά τη διάρκειά τους, προκαλούν υπερκερασμό της ανασταλτικής κατάστασης. παράμετρος τιμή Tonic busrting I e1 I inhib I exc 250pA -250pA 250pA A θ 0.50 Πίνακας 5.11 Ρυθμίσεις εξομοίωσης tonic bursting Σχ. 5.16 Εξομοίωση tonic bursting 5.4 Συγκριτικά αποτελέσματα Αντιπαραθέτοντας τα αποτελέσματα με αυτά της υλοποίησης [6] για τον νευρώνα MN ως μοντέλο Integrate-and-Fire με προσαρμογή κατωφλίου, προκύπτει ο παρακάτω πίνακας: