https://bodybydarwin.com
Slider Image

Τα ρομπότ είναι κακά: Ο μυθικός μυθιστοριογράφος των μηχανών δολοφόνων

2021

Η τρίτη σε μια σειρά από δημοσιεύσεις σχετικά με τους κύριους μύθους της ρομποτικής και τον ρόλο του επιστημονικού φανταστικού ρόλου στη δημιουργία και τη διάδοσή τους. Προηγούμενα θέματα: Τα ρομπότ είναι δυνατά, ο μύθος της ρομποτικής υπερ-ικανότητας, και τα ρομπότ είναι έξυπνα, ο μύθος του αναπόφευκτου AI.

Όταν ο πιο διάσημος επιστήμονας του κόσμου ανακοινώνει ότι η ανθρωπότητα μπορεί να είναι καταδικασμένη, θα ήταν ανόητος να μην ακούσετε.

"Η επιτυχία στη δημιουργία του AI θα είναι το μεγαλύτερο γεγονός στην ανθρώπινη ιστορία που έγραψε ο Stephen Hawking σε μια συνάντηση τον περασμένο Μάιο για το The Independent." Δυστυχώς, μπορεί να είναι και η τελευταία, εκτός αν μάθουμε πώς να αποφύγουμε τους κινδύνους ".

Ο φυσικός που κερδίζει το βραβείο Νόμπελ αγγίζει εν συντομία τους κινδύνους αυτούς, όπως την ανάπτυξη αυτόνομων στρατιωτικών δολοφόνων και την εκρηκτική, ανεξέλεγκτη άφιξη υπερβολικά ευφυούς ΑΙ, γεγονός που συνήθως αναφέρεται ως Singularity. Εδώ είναι ο Χόκινγκ:

"Μπορούμε να φανταστούμε ότι η τεχνολογία αυτή ξεπερνά τις χρηματοπιστωτικές αγορές, εφευρίσκουμε ανθρώπινους ερευνητές, χειραγωγούμε ανθρώπινους ηγέτες και αναπτύσσουμε όπλα που δεν μπορούμε να καταλάβουμε. Ενώ ο βραχυπρόθεσμος αντίκτυπος του AI εξαρτάται από το ποιος τον ελέγχει, ο μακροπρόθεσμος αντίκτυπος εξαρτάται από το εάν μπορεί να ελεγχθεί καθόλου ».

Ο Hawking δεν μιλάει απλώς για την ιδιαιτερότητα, μια θεωρία (ή μια φανταχτερή φανταστική, πραγματικά) που προβλέπει μια εποχή που ανανεώνεται έτσι ώστε να μην επαναλαμβάνεται από την AI, δεν μπορούμε καν να υποθέσουμε ότι κατανοούμε τα περίεργα περιγράμματα της. Ο Χόκινγκ αναπαράγει ένα μύθο δημιουργίας της επιστημονικής φαντασίας. Ίσως ο πιο έξυπνος άνθρωπος στον πλανήτη φοβάται τα ρομπότ, επειδή μπορεί να μετατραπεί σε κακό.

Αν είναι ανόητο να αγνοήσουμε την καταδίκη του Hawking, καταλήγουμε στο συμπέρασμα ότι μόνο ένας κακοποιός βαθμού Α θα το προκαλέσει. Εγώ είμαι έτοιμος να είμαι αυτός ο βρώμικος. Εκτός από αυτό είναι ένα επιχείρημα που δεν αξίζει πραγματικά. Δεν μπορείτε να αμφισβητήσετε την εκδοχή κάποιου άλλου για το μέλλον ή να τρυπήσετε τρύπες σε ένα φαινόμενο που είναι τόσο γεμάτο από επαγγελματικό μύθο.

Μπορώ να επισημάνω κάτι ενδιαφέρον, όμως. Ο Χόκινγκ δεν το έγραψε με την ευκαιρία κάποιων ψυχρών νέων αποκαλύψεων στον τομέα της ρομποτικής. Αναφέρει τα αυτοκίνητα χωρίς οδηγό του Google, καθώς και τις προσπάθειες να απαγορεύσει τα θανατηφόρα, αυτοδιοικούμενα ρομπότ που δεν έχουν ακόμη κατασκευαστεί, αλλά δεν παρουσιάζει κανένα στοιχείο που να αποδεικνύει ότι ο οργισμένος, δολοφόνος AI είναι επάνω μας.

Αυτό που προκάλεσε τη δραματική προειδοποίησή του ήταν η απελευθέρωση μιας sci-fi ταινίας μεγάλου προϋπολογισμού που ονομάζεται Transcendence . Ασχολείται με τον Johnny Depp ως ερευνητή του AI που γίνεται επικίνδυνα ισχυρός AI, επειδή το Χόλιγουντ σπάνια ξέρει τι άλλο να κάνει με τα αισθανόμενα μηχανήματα. Απορρίφθηκε από το κοινό και τους κριτικούς, η μόνη συνεισφορά της ταινίας στη γενική συζήτηση για το AI ήταν η πιστή χείλη που προηγήθηκε της απελευθέρωσής της. Η υπερβατικότητα είναι ο λόγος που ο Hawking έγραψε για τα ρομπότ που εξαφανίζουν την ανθρώπινη φυλή.

Αυτή είναι η δύναμη της επιστημονικής φαντασίας. Μπορεί να ξεγελάσει ακόμη και τις ιδιοφυίες να ενοχλούνται.

* * *

Η σφαγή τελειώνει. Η εξέγερση των ρομπότ σχεδιάστηκε προσεκτικά, λιγότερο μια εξέγερση παρά μια συγχρονισμένη, παγκόσμια ενέδρα. Στο εργοστάσιο που τον έκτισε, ο ακτίνας βγαίνει σε ένα οδόφραγμα για να το κάνει επίσημο:

Ρομπότ του κόσμου! Πολλοί άνθρωποι έχουν πέσει. Έχουμε πάρει το εργοστάσιο και είμαστε κύριοι του κόσμου. Η εποχή του ανθρώπου έχει φτάσει στο τέλος της. Μια νέα εποχή έχει προκύψει! Κυριαρχία από ρομπότ!

Ένας άνθρωπος είναι το τελευταίο είδος των παραγόντων του, αλλά κανείς δεν φαίνεται να το παρατηρεί. Η ακτίνα συνεχίζεται.

Ο κόσμος ανήκει στα ισχυρότερα. Ποιος επιθυμεί να ζήσει πρέπει να κυριαρχήσει. Είμαστε κύριοι του κόσμου! Δάσκαλοι στη γη και στη θάλασσα! Δάσκαλοι των αστεριών! Δάσκαλοι του σύμπαντος! Περισσότερος χώρος, περισσότερος χώρος για ρομπότ!

Αυτή η ομιλία από το παιχνίδι του 1911 του Karel Capek, RUR είναι η γέννηση του κακού ρομπότ. Αυτό που διαβάζει σήμερα σαν ένα άλλο σκυλάκι, που μοιάζει με γλωσσομάθεια σχετικά με τις εξεγέρσεις ρομπότ, προέρχεται από το έργο που εισήγαγε τη λέξη "ρομπότ καθώς και την έννοια μιας εξέγερσης ρομπότ." RUR αναφέρεται μερικές φορές στις συζητήσεις της ρομποτικής ως κάτι απίθανο ιστορική υποσημείωση δεν είναι συναρπαστικό το γεγονός ότι η πρώτη ιστορία σχετικά με τους μαζικούς παραστάτες υπηρετούν επίσης την αναπόφευκτη γενοκτονία των δημιουργών τους;

Αλλά RUR είναι κάτι περισσότερο από μια περιέργεια. Είναι το άλφα και το Ωμέγα των κακών αφηγήσεων ρομπότ, συζητώντας κάθε πλευρά του ίδιου του μύθου που δημιούργησε με τις φρενίτιδες, σκοτεινές κωμικές αναφορές του.

Η πιο φανερή σκηνή έρχεται λίγο πριν τα ρομπότ παραβιάσουν τις άμυνες τους, όταν οι άνθρωποι που έχουν βγει στο εργοστάσιο Universal Robots της Rossum προσπαθούν να προσδιορίσουν γιατί τα προϊόντα τους έκαναν μια τέτοια απροσδόκητη εξέγερση. Ο Δρ Gall, ένας από τους κορυφαίους επιστήμονες της εταιρείας, κατηγορεί τον εαυτό του ότι «αλλάζει τον χαρακτήρα του» και το κάνει πιο σαν τους ανθρώπους. "Σταμάτησαν να είναι μηχανές - με ακούς;" - γνώρισαν τη δύναμή τους και τώρα μας μισούν. Μισούν ολόκληρη την ανθρωπότητα », λέει ο Gall.

Εκεί είναι η υπόθεση ότι ξεκίνησε ένα ολόκληρο subgenre της επιστημονικής φαντασίας και τροφοδοτούσε αμέτρητα δυσοίωνες σενάρια από τα φουτουριστικά και σε μικρότερο βαθμό από τους ερευνητές του AI: Εάν τα μηχανήματα γίνουν αισθανόμενα, κάποια ή όλα αυτά θα γίνουν εχθροί μας .

Αλλά ο Capek έχει να πει περισσότερα για το θέμα. Η Έλενα, ένας καλός συνήγορος υπέρ των ρομποτικών πολιτικών δικαιωμάτων, εξηγεί γιατί έπεισε τον Gall να τσίμπησε τις προσωπικότητές τους. «Φοβόμουν τα ρομπότ», λέει.

Helena: Και έτσι σκέφτηκα. . . αν ήταν σαν εμάς, εάν μπορούσαν να μας καταλάβουν, τότε δεν μπορούσαν να μας μισούν τόσο πολύ. . . αν μόνο ήταν σαν τους ανθρώπους. . . λιγάκι μόνο. . . .

Κυρίαρχη: Ω Ελένη! Κανείς δεν μπορούσε να μισεί τον άνθρωπο όσο τον άνθρωπο! Δώστε στον άνθρωπο μια πέτρα και θα σας πετάξει.

Είναι λογικό, έτσι δεν είναι; Οι άνθρωποι είναι προφανώς ικανοί του κακού. Έτσι ένα ρομπότ αρκετά ανθρώπινο πρέπει να είναι ικανό και για το κακό. Το υπόλοιπο είναι υπαρξιακή χημεία. Συνδυάστε το ηθικό ελάττωμα του μίσους με την άψογη απόδοση μιας μηχανής και τα αποτελέσματα του θανάτου.

Ο Karel Capek, όπως φαίνεται, γνώριζε πραγματικά τα πράγματα του. Ο θεατρικός συγγραφέας είναι ακόμη αρκετά έξυπνος για να μαστίζει τη δική του μελοδραματική συζήτηση για το αναπόφευκτο μίσος και τις προγραμματισμένες ψυχές, όταν ο εμπορικός διευθυντής της εταιρείας, Busman, παραδίδει την τελευταία λέξη για την εξέγερση.

Κάναμε πάρα πολλά ρομπότ. Αγαπητοί μου, είναι μόνο αυτό που θα περίμενε κανείς. μόλις τα ρομπότ γίνονταν πιο δυνατά από τους ανθρώπους που αυτό έπρεπε να συμβεί, έπρεπε να συμβεί, βλέπετε; Haha, και κάναμε όσα μπορούσαμε για να γίνει αυτό το συντομότερο δυνατόν.

Ο Busman προειδοποιεί την έκδοση του Singularity που δεν τολμά να παραδεχτεί την πίστη του στο μύθο των κακών ρομπότ. Είναι η υπόθεση ότι οι έξυπνες μηχανές θα μπορούσαν να καταστρέψουν την ανθρωπότητα μέσα από τυφλή ορμή και αριθμούς. Ο Capek καταφέρνει να συμπεριλάβει ακόμη και μη κακά ρομπότ στην ιστορία του για τη ρομποτική εξέγερση.

Ως παράδειγμα πρωτοποριακής επιστημονικής φαντασίας, το RUR είναι ένας απόλυτος θησαυρός και αξίζει να διαβάσει και να διοργανωθεί για το άμεσο μέλλον. Αλλά όταν πρόκειται για τη δημόσια αντίληψη της ρομποτικής και την ικανότητά μας να μιλάμε για μηχανική νοημοσύνη χωρίς να ακούμε σαν παιδιά που αιφνιδιάζονται από τις δικές μας σκιές, το RUR είναι μια πνευματική πληγή. Δεν είναι κερδοσκοπική μυθοπλασία, αναρωτιέται για το μέλλον της ρομποτικής, ένα πεδίο που δεν υπήρχε το 1920 και δεν θα έμενε για δεκαετίες. Το έργο είναι μια φρικιαστική κοινωνική πολιτική αλληγορία που αναπνέει με πυρκαγιά, με ρομπότ να στέκεται για την καταπιεσμένη εργατική τάξη του κόσμου. Η κατάστασή τους είναι έμφυτα ανθρώπινη, όσο μεγενθυμένη ή ανυψωμένη. Και οι εταιρικοί δημιουργοί τους, με την άσχημη απόλυση της προσωπικότητας των ρομπότ, είναι καρικατούρες της καπιταλιστικής πονηρίας.

Ακόμη χειρότερο, θυμηθείτε τον Busman, τον εμπορικό διευθυντή που βλέπει την πτώση του ανθρώπου ως κάτι παραπάνω από μια υπερπροσφορά ενός μεγάλου προϊόντος; Εδώ περιγράφεται, στο Dramatis Personae: "ο παχύς, φαλακρός, κοντόφθαλμος Εβραίος". Κανένας άλλος χαρακτήρας δεν παίρνει έναν εθνικό ή πολιτιστικό περιγραφέα. Μόνο ο Busman, ο καπετάνιος στο πλαίσιο του παιχνιδιού των άκαρπων βιομηχάνων. Αυτό είναι το είδος του πράγματος που RUR είναι περίπου.

Η επιστημονική ιστορία που μας έδωσε το μύθο των κακών ρομπότ δεν ενδιαφέρεται καθόλου για τα ρομπότ. Η πιο διαρκή τρούπα είναι η αποτυχία της κριτικής ανάλυσης, που βασίζεται σε υπερβολικά κυριολεκτικές ή εσκεμμένα αδαείς ενδείξεις ενός παιχνιδιού για τον πολεμικό αγώνα. Και όμως, εδώ, σχεδόν ένας αιώνας αργότερα, εξακολουθούμε να μπερδεύουμε για τις εξεγέρσεις των μηχανών και τον θάνατο από τον ΑΙ, όπως και τα άχρηστα παιχνίδια που κερδίζουν συνεχώς στον ίδιο τοίχο.

* * *

Για να είμαστε δίκαιοι με τους χρόνους που φοβόμαστε, κάποια κακά ρομπότ δεν αποτελούν μέρος μιας αραιάς καμπύλης. Μερικές φορές ένα Skynet είναι απλά Skynet.

Έγραψα για την προέλευση αυτού του εικονικού δολοφόνου AI σε μια προηγούμενη θέση, αλλά δεν υπάρχει διαφυγή από την εμβέλεια και την επιρροή του The Terminator . Αν το RUR έθεσε τα θεμέλια για αυτόν τον μύθο, η ταινία του James Cameron το 1984 έκτισε ένα μεγαλοπρεπές μνημείο προς τιμήν του. Η ταινία δημιούργησε τρεις συνέπειες και καταμέτρηση, καθώς και τηλεοπτική εκπομπή. Και παρά τις πολυάριθμες εξεγέρσεις ρομπότ στη μεγάλη και μικρή οθόνη τα 30 χρόνια από την αρχική ταινία που έπληξε τα θέατρα, το Χόλιγουντ δεν έχει ακόμη ξεπεράσει τα γραφικά του gut-punch της αρχικής ακολουθίας (βλ. Παραπάνω).

Ο Kyle Reese, ένας βετεράνος του απελπισμένου μηχανοκίνητου πολέμου της ταινίας, εξηγεί τη μετάβαση του αμυντικού δικτύου από την ευαισθησία σε μαζική δολοφονία: «Λένε ότι ήταν έξυπνος, μια νέα σειρά πληροφοριών. Τότε είδε όλους τους ανθρώπους ως απειλή, όχι μόνο εκείνοι που βρίσκονται στην άλλη πλευρά. Αποφάσισε τη μοίρα μας σε ένα μικροδευτερολέμμα: εξόντωση. "

Η παραβολή του Skynet έχει έναν αέρα εφικτό, επειδή ο κακοποιός του είναι τόσο αδιάφορος. Το σύστημα φοβάται. Το σύστημα απομακρύνεται. Δεν υπάρχει καμία κακία στη μυστική, παραδειγματική καρδιά του. Υπάρχει μόνο ο φόβος, ένα βασικό συστατικό της αυτογνωσίας, καθώς και η ίδια, βολική έλλειψη ενσυναίσθησης που επιτρέπει στους ανθρώπους να αποδεκατίζουν τα μη ανθρώπινα είδη που απειλούν την επιβίωσή μας. Το Skynet μας αγκαλιάζει σαν τόσους πολλούς αρουραίους και κουνουπιές.

Ας μην είμαστε συνενοί, όμως: Το Skynet δεν είναι ένα ρεαλιστικό AI, ή ένα βασισμένο σε ρεαλιστικές αρχές. Και γιατί πρέπει να είναι; Είναι το τέρας που κρύβεται κάτω από το κρεβάτι σας, με τόσες σειρές δοντιών και αδίστακτα κόκκινα μάτια, καθώς χρειάζεται να σας κλέψει σωστά τον ύπνο. Αυτό το ύφος και ο βαθμός του κακού ρομπότ είναι εντελώς φανταστικό. Τίποτα δεν έχει αναπτυχθεί ποτέ που μοιάζει με τη γνωστική ικανότητα του αμυντικού δικτύου ή το απεριόριστο σύνολο δεξιοτήτων. Ακόμα κι αν είναι δυνατόν να δημιουργηθεί ένα τέτοιο ευπροσάρμοστο σύστημα, γιατί θα ενεργοποιούσατε ένα πρόγραμμα που αποσκοπούσε στη γρήγορη εκτόξευση μιας δέσμης πυρηνικών όπλων σε κάτι που έρχεται σε επαφή με ένα ανθρώπινο μυαλό;

"Οι άνθρωποι σκέφτονται ότι η AI είναι πολύ ευρύτερη από ό, τι λέει ο Daniel H. Wilson, ρομποτικός και συγγραφέας του bestselling novel, Robopocalypse ." Τυπικά ένα AI έχει πολύ περιορισμένες εισόδους και εξόδους. Ίσως ακούει μόνο τις πληροφορίες από την [μονάδα αδρανειακής μέτρησης] IMU ενός αυτοκινήτου, οπότε ξέρει πότε να εφαρμόσει τα φρένα σε περίπτωση έκτακτης ανάγκης. Αυτό είναι AI. Η ιδέα ενός AI που λύνει το πρόβλημα της φυσικής γλώσσας, περπατώντας, μιλώντας, «δεν μπορώ να το κάνω αυτό, ο Dave», είναι πολύ φανταστικό. Αυτά τα είδη AI είναι υπερβολικά υπερβολικά για οποιοδήποτε πρόβλημα. "Μόνο στην επιστημονική φαντασία κάνει ένα υπερβολικά πολύπλοκο και φιλόδοξο έργο του Πενταγώνου, πέρα ​​από τις πιο άγριες προσδοκίες των σχεδιαστών του.

Στην περίπτωση του Skynet και παρόμοιες φαντασιώσεις του δολοφόνου AI, η πρόθεση ή η ικανότητα των κακών σχεδιαστών ρομπότ θεωρείται συχνά άσχετη. Η εκκίνηση της μάθησης ξεκινά από την απορρόφηση ξαφνικά όλων των διαθέσιμων δεδομένων ή τη συγχώνευση πολλαπλών συστημάτων σε μια ενοποιημένη συνείδηση. Αυτό ακούγεται λογικό, μέχρι να συνειδητοποιήσετε ότι τα AIs δεν παίζουν εγγενώς καλά μαζί.

Όταν μιλάμε για το πόσο έξυπνη είναι μια μηχανή, είναι πολύ εύκολο για τον άνθρωπο να ανθρωπομορφώνει και να το σκεφτόμαστε με λάθος τρόπο, λέει ο Wilson. Τα ΑΗΑ δεν αποτελούν φυσική τάξη. Δεν πρέπει να χτιστούν με την ίδια αρχιτεκτονική. Δεν τρέχουν τους ίδιους αλγόριθμους. Δεν γνωρίζουν τον κόσμο με τον ίδιο τρόπο. Και δεν έχουν σχεδιαστεί για να λύσουν τα ίδια προβλήματα

Στο νέο μυθιστόρημά του Robogenesis (που έρχεται από τις 10 Ιουνίου), ο Wilson διερευνά την έννοια των προηγμένων μηχανών που δεν είναι τίποτα άλλο παρά μονολιθικό ή hive-minded. "Στον Robogenesis ο κόσμος φιλοξενεί πολλούς διαφορετικούς AI που σχεδιάστηκαν για διαφορετικά καθήκοντα και από διαφορετικούς ανθρώπους, με ποικίλους βαθμούς ενδιαφέροντος στους ανθρώπους, λέει ο Wilson." Και αντιπροσωπεύουν διάφορους βαθμούς κινδύνου για την ανθρωπότητα. "Είναι αυτονόητο ότι ο Wilson αξιοποιεί ευτυχώς τον μύθο του κακού ρομπότ Robopocalypse που επέλεξε ο Stephen Spielberg, χαρακτηρίζει έναν σχετικά κλασικό υπερ-έξυπνο κακό AI που ονομάζεται Archos, αλλά, όπως και με το The Terminator, αυτή είναι μυθοπλασία. πιο περίπλοκο και αξιόπιστο σύνολο κινήτρων, αλλά κανένα νέο κακό ρομπότ δεν μπορεί να αγγίξει την κληρονομιά του Skynet.

Και το Skynet δεν είναι ένας απομονωμένος μύθος αυτοματοποιημένης βίας, αλλά μάλλον μια συλλογή πολλαπλών, αλληλένδετων επιστημονικών μυθών σχετικά με τα ρομπότ. Είναι υπερ-ικανός, εκτελώντας μια άγρια ​​πολύπλοκη αποστολή καταστροφής, συμπεριλαμβανομένης της συλλογής και της διαχείρισης των πόρων που πηγαίνει σε αυτοματοποιημένο πεζικό, σαμποτέρ και αέρος. Και το Skynet είναι αυτογνωσμένο, διότι το SF έχει προφητεύσει ότι τα μηχανήματα προορίζονται να γίνουν αισθανόμενα. Είναι φανταστικός με βάση την προηγούμενη φαντασία, και είναι εξαιρετικά διασκεδαστικό.

Δεν προτείνω ότι το Χόλιγουντ πρέπει να αξιολογηθεί από ομότιμους. Αλλά τα ρομπότ φανταστικών δολοφόνων ζουν σε ένα είδος ρητορικής, που συγχέει την ικανότητά μας να κατανοήσουμε τους κινδύνους που σχετίζονται με μη πλασματικά, δυνητικά θανατηφόρα ρομπότ. Φανταστείτε ένα άρθρο σχετικά με τις απειλές κατά της βρετανικής εθνικής ασφάλειας, αναφέροντας ότι, αν τα πράγματα αποδειχτούν άσχημα, ίσως ο βασιλιάς Άρθουρ θα ξυπνήσει από τη μακρόχρονη μυστικιστική του νύχτα για να προστατεύσει αυτή την πράσινη και ευχάριστη γη. Γιατί θα ήταν λιγότερο γελοίο από τις αμέτρητες και σταθερές αναφορές στο Skynet, ένα μη πραγματικό AI που είναι πιο υπερφυσικό από τον υπερυπολογιστή; Οι απεργίες και οι αυτοματοποιημένες διακυμάνσεις της χρηματιστηριακής αγοράς σχετίζονται τόσο με το Skynet όσο και με τον Sauron, τον βασιλιά νεκρομανίας από τον Άρχοντας των Δαχτυλιδιών .

Έτσι, όταν ονομάζετε - ρίχνετε την κεντρική συσκευή plotter του Terminator ως προσυσκευασμένο σημείο για τις παγίδες της αυτοματοποίησης, συνειδητοποιήστε τι κάνετε πραγματικά. Μιλάμε για έναν κακό δαίμονα που κλήθηκε σε μια ψεύτικη πραγματικότητα. Ή η περίπτωση του op-ed Stephen Hawking, συνειδητοποιήστε τι διαβάζετε πραγματικά. Μοιάζει με μια περίεργα προειδοποιητική προειδοποίηση σχετικά με μια απειλή σε επίπεδο εξαφάνισης. Στην πραγματικότητα, πρόκειται για το πώς η επιστημονική φαντασία έχει εξαιρετικές σκέψεις και ίσως πρέπει να ελέγξετε έξω αυτή την ταινία με πρωταγωνιστή τον Johnny Depp, γιατί ίσως έτσι τα ρομπότ θα καταστρέψουν τον καθένα μας.

Οι ενέσεις διοξειδίου του άνθρακα μπορεί να φανούν καλύτερες από τη λιποαναρρόφηση - αλλά υπάρχει μια αλίευση

Οι ενέσεις διοξειδίου του άνθρακα μπορεί να φανούν καλύτερες από τη λιποαναρρόφηση - αλλά υπάρχει μια αλίευση

Ο γρηγορότερος καρχαρίας του κόσμου δεν ταιριάζει με ένα σάκο εύθραυστου δέρματος Hagfish

Ο γρηγορότερος καρχαρίας του κόσμου δεν ταιριάζει με ένα σάκο εύθραυστου δέρματος Hagfish

Τι είναι το «trancing» και γιατί κάνει το σκυλί μου να δρα τόσο περίεργα γύρω από τα φυτά;

Τι είναι το «trancing» και γιατί κάνει το σκυλί μου να δρα τόσο περίεργα γύρω από τα φυτά;