Πλήρης Οδηγός Εξετάσεων

Ψηφιακές Τηλεπικοινωνίες (136 Ερωτήσεις)

Βασισμένο σε πλήρη ανάλυση του PDF με τις 136 ερωτήσεις. Ανανεωμένη Έκδοση (FINAL)

1. Εντροπία & Πληροφορία

1.1 Ποσότητα Πληροφορίας

I(x) = log₂(1/p) = −log₂(p)  [bits]
  • Σπάνιο σύμβολο (p→0) → πολλή πληροφορία (I→∞)
  • Βέβαιο συμβάν (p=1) → μηδενική πληροφορία (I=0)
  • Ακολουθία συμβόλων (χωρίς μνήμη): Πρώτα πολλαπλασιάζουμε τις πιθανότητες (π.χ. p(s₁,s₂) = p(s₁)·p(s₂)) και μετά βγάζουμε τον λογάριθμο: I(s₁,s₂) = −log₂(p(s₁)·p(s₂)) = I(s₁) + I(s₂)

Ερωτήσεις: 6, 48


1.2 Εντροπία H(X)

H(X) = −Σ pᵢ · log₂(pᵢ)  [bits/σύμβολο]
Ιδιότητα Τύπος / Σημείωση
H ≥ 0 πάντα Ποτέ αρνητική
H μέγιστη H_max = log₂(M) (ισοπίθανα σύμβολα)
H ελάχιστη H = 0 (κάποιο pᵢ = 1)
Ισοπίθανα M σύμβολα H = log₂(M)
Βέβαιο σύμβολο (p=1) H = 0 — δεν υπάρχει αβεβαιότητα

Ερωτήσεις: 2, 49, 58, 86, 91, 111, 118


1.3 Σύγκριση Πηγών — Κανόνας

Όσο πιο «μοιρασμένες» οι πιθανότητες → τόσο μεγαλύτερη εντροπία. Κοίτα αν κάποια πιθανότητα κυριαρχεί (κοντά στο 1) — τότε η εντροπία είναι μικρή.
Πηγή Πιθανότητες Εντροπία
S1 [0.99, 0.01, 0, 0] ↓ Ελάχιστη
S2 [0.97, 0.01, 0.01, 0.01] ↑ Λίγο μεγαλύτερη
S3 [0.22, 0.28, 0.24, 0.26] ↑↑ Μέγιστη (σχεδόν ισοπίθανα)

Σειρά: H(S3) > H(S2) > H(S1)

Ερωτήσεις: 2, 49


1.4 Δυαδική Εντροπία

Hb(p) = −p·log₂(p) − (1−p)·log₂(1−p)

Χρησιμοποιείται στο BSC: C = 1 − Hb(p_error). - Hb(0) = Hb(1) = 0 (βέβαιο αποτέλεσμα) - Hb(0.5) = 1 (μέγιστη αβεβαιότητα)


1.5 Εντροπία Εκτεταμένης Πηγής

Τύπος Πηγής Σχέση
Χωρίς μνήμη (στατιστικά ανεξάρτητα σύμβολα) H(nX) = n · H(X)
Με μνήμη (στατιστικά εξαρτημένα σύμβολα) H(Xₙ) < n · H(X₁)

Γιατί: Η μνήμη σημαίνει ότι το ένα σύμβολο εξαρτάται από τα προηγούμενα → μειώνεται η αβεβαιότητα (redundancy) → μικρότερη εντροπία per σύμβολο. Αυτό βοηθάει τη συμπίεση (π.χ. Huffman σε blocks).

Ερ. 77: Πηγή χωρίς μνήμη, n-αδυνάμωση → πληροφορία = n·H(X) → αυξάνεται κατά n φορές ✅ Απ: Β Ερ. 78: Κείμενο (με μνήμη) → H(X1) > H(X5)/5 → H(X1) = 5·H(X5) που είναι χειρότερο. Άρα H(X1) > H(X5) ✅ Απ: Γ

Ερωτήσεις: 39, 68, 77, 78, 112


1.6 Αμοιβαία Πληροφορία

I(X;Y) = H(X) − H(X|Y)
  • H(X|Y): Υπό συνθήκη εντροπία — πόση αβεβαιότητα απομένει για X αν ξέρουμε Y
  • Ιδανικό κανάλι: H(X|Y) = 0 → I(X;Y) = H(X) (μέγιστη αμοιβαία πληροφορία)
  • Επιλογή καναλιού: Διάλεξε αυτό με μεγαλύτερο I{X,Y} → μικρότερο H(X|Y) → μικρότερο p_error

Παράδειγμα υπολογισμού (Ερ. 28):

H1: p_error = 0.02 → H(X|Y) = Hb(0.02) ≈ 0.14 bits → I{X,Y} = H(X) − 0.14  (ΜΕΓΑΛΟ)
H2: p_error = 0.25 → H(X|Y) = Hb(0.25) ≈ 0.81 bits → I{X,Y} = H(X) − 0.81  (ΜΙΚΡΟ)
→ Hb(0.02) < Hb(0.25) → I{X,Y}_H1 > I{X,Y}_H2 → Επιλέγουμε H1

✅ Απ: Α

Ερωτήσεις: 19, 28


1.7 Αριθμητικό Παράδειγμα Εντροπίας

Ερώτηση 109: p = {0.125, 0.125, 0.5, 0.25}

H(S) = −[0.125·log₂(0.125) + 0.125·log₂(0.125) + 0.5·log₂(0.5) + 0.25·log₂(0.25)]
     = −[0.125·(−3) + 0.125·(−3) + 0.5·(−1) + 0.25·(−2)]
     = −[−0.375 − 0.375 − 0.5 − 0.5]
     = 1.75 bits/σύμβολο

✅ Απ: Β

Ερώτηση 118: Μετοχή: 25% ανοδικά (s1), 50% σταθερή (s2), 25% καθοδικά (s3)

p = {0.25, 0.5, 0.25}
H = −[0.25·log₂(0.25) + 0.5·log₂(0.5) + 0.25·log₂(0.25)]
  = −[0.25·(−2) + 0.5·(−1) + 0.25·(−2)]
  = −[−0.5 − 0.5 − 0.5]
  = 1.5 bits/σύμβολο

✅ Απ: Α

Ερώτηση 111: Υπολόγισε H → σύγκρινε με L_avg κωδίκων.

Ερωτήσεις: 86, 91, 109, 111, 118


1.8 Εντροπία Πηγής Άγνωστης Μνήμης

Ερώτηση 79: Πηγή Χ — δεν γνωρίζουμε αν έχει μνήμη. Τι ισχύει για H(X);

H(X) ≤ 1.5 bits/symbol

Αν υπολογίσεις την εντροπία σαν η πηγή να μην έχει μνήμη (με βάση τις πιθανότητες 0.25, 0.50, 0.25), βγαίνει ακριβώς 1.5. Όμως, επειδή παρατηρούμε την «εξέλιξη», η πηγή ενδέχεται να έχει μνήμη (στατιστική εξάρτηση μεταξύ ημερών). Η μνήμη μειώνει πάντα την εντροπία. Άρα, η εντροπία θα είναι μικρότερη ή ίση με 1.5. ✅ Απ: Β


2. Κβαντισμός & ADC

2.1 Βασικοί Τύποι

Δ = X_max / 2ⁿ = X_max / N      (βήμα κβαντισμού — ομοιόμορφο)
σ²_q = Δ² / 12                   (ισχύς/διακύμανση σφάλματος κβαντισμού)
ε_max = Δ/2                       (μέγιστο σφάλμα κβαντισμού)
Αν το σήμα είναι bipolar στο [−A, A]: X_max = 2A, άρα Δ = 2A/2ⁿ = A/2^(n−1). Αν είναι unipolar στο [0, A]: X_max = A, άρα Δ = A/2ⁿ.

2.2 Υπολογισμός n bits για Δεδομένο Μέγιστο Σφάλμα

Βασικός Τύπος: Το μέγιστο σφάλμα κβάντισης (ε_max) δίνεται από:

ε_max = Δ/2 = X_max / (2 · 2ⁿ)

Θέλω μέγιστο σφάλμα < k·A (k = κλάσμα, π.χ. 0.01 = 1%) και το σήμα έχει δυναμική περιοχή A (δηλαδή X_max = A):

ε_max = Δ/2 < k·A
→ X_max / (2·2ⁿ) < k·X_max    (απλοποιούμε X_max)
→ 1 / 2^(n+1) < k
→ 2^(n+1) > 1/k
→ n+1 > log₂(1/k)
→ n > log₂(1/k) − 1
→ n = ⌈log₂(1/k)⌉ − 1  (στρογγυλοποιούμε προς τα πάνω)

Παράδειγμα (Ερ. 87): k=0.01 (σφάλμα < 1%)

2^(n+1) > 100
n+1 > log₂(100) = 6.644
n+1 ≥ 7  →  n ≥ 6

✅ Απ: Β (n=6)


2.3 Αριθμητικά Παραδείγματα Ισχύος Σφάλματος

Ερώτηση 96: Xmax=160, n=5 bits

Δ = 160/2⁵ = 160/32 = 5
σ²_q = 5²/12 = 25/12 ≈ 2.08  → Ανήκει στο (2, 2.5)

✅ Απ: Γ

Ερώτηση 106: Xmax=224, n=6 bits

Δ = 224/2⁶ = 224/64 = 3.5
σ²_q = 3.5²/12 = 12.25/12 ≈ 1.02  → Ανήκει στο [1, 1.5]

✅ Απ: Α

Ερωτήσεις 115, 116, 117: Ίδια μεθοδολογία.


2.4 Κατανομή Θορύβου Κβαντισμού

Ερώτηση 69/70: "Ποια είναι η κατανομή του θορύβου κβαντισμού;"

Ο θόρυβος κβαντισμού έχει ΟΜΟΙΟΜΟΡΦΗ κατανομή:

f(x̃) = 1/Δ,   για  −Δ/2 ≤ x̃ ≤ Δ/2
  • Μέση τιμή: 0
  • Διακύμανση: σ² = Δ²/12
  • ΔΕΝ είναι Gaussian, ΔΕΝ είναι τριγωνική

✅ Απ Q70: Β (Ομοιόμορφη στο [−Δ/2, Δ/2])

Πότε θεωρείται "λευκός" ο θόρυβος κβαντισμού: 1. Κβάντιση λεπτή (πολλά επίπεδα, μικρό Δ) 2. Είσοδος αλλάζει τυχαία → δείγματα ανεξάρτητα 3. Στατιστικές ιδιότητες θορύβου ανεξάρτητες από είσοδο → Τότε: ασυσχέτιστα δείγματα σφάλματος = λευκός θόρυβος με σ²=Δ²/12

Ερωτήσεις: 69, 70, 71


2.5 Τύποι Κβαντιστών — ΚΡΙΣΙΜΟ

Πηγή / Σήμα Κβαντιστής Γιατί
Ομοιόμορφη κατανομή Ομοιόμορφος βαθμωτός Ίσα βήματα = βέλτιστα
Εκθετική κατανομή Μη ομοιόμορφος βαθμωτός Τιμές συγκεντρώνονται κοντά στο 0
Gaussian / Λευκός θόρυβος Μη ομοιόμορφος βαθμωτός Λευκός θόρυβος = Χωρίς μνήμη. Gaussian = Μη ομοιόμορφος.
Ομιλία DPCM ή Διανυσματικός Στατιστικά εξαρτημένα (μνήμη)
Μουσική Διανυσματικός Στατ. εξάρτηση, χωρίς απότομες εναλλαγές
Στατιστικά εξαρτημένα δείγματα Διανυσματικός Εκμεταλλεύεται τη συσχέτιση
Στατιστικά ανεξάρτητα δείγματα Βαθμωτός Κάθε δείγμα χωριστά
Διαχωρισμός Κβαντιστών: 1. Η κατανομή των τιμών καθορίζει το βήμα: Ομοιόμορφη κατανομή → Ομοιόμορφο βήμα. Μη-ομοιόμορφη (Gaussian/Εκθετική) → Μη ομοιόμορφο βήμα. 2. Η συσχέτιση (μνήμη) καθορίζει τη διάσταση: Ανεξάρτητα δείγματα (π.χ. Λευκός θόρυβος/Εκθετική) → Βαθμωτός (Scalar) κβαντιστής. Στατιστικά εξαρτημένα δείγματα (Ομιλία/Μουσική) → Διανυσματικός (Vector) κβαντιστής ή προβλεπτικός (DPCM/ADPCM).

Ερωτήσεις: 6, 8, 30, 50, 51, 60, 61, 126, 131


2.6 Δειγματοληψία & Nyquist Sampling

f_s ≥ 2·W           (θεώρημα Nyquist — ελάχιστη συχνότητα δειγματοληψίας)
R_b = n · f_s        (ρυθμός bit = bits × δείγματα/sec)
R_b = n · 2W         (για ελάχιστη δειγματοληψία)
BW_ψηφ ≥ n · W      (απαιτούμενο BW για μετάδοση PCM)

Ερώτηση 10: W=10kHz, n=10 bits → BW ≥ 10×10 = 100 kHz ✅ Απ: Δ Ερώτηση 41 (1η): W=20kHz, n=20 bits → BW ≥ 20×20 = 400 kHz ✅ Απ: Δ Ερώτηση 81: W=5kHz, n=20 bits → BW ≥ 20×5 = 100 kHz ✅ Απ: Δ


2.7 Υπολογισμός Εύρους Ζώνης Σήματος (αντίστροφη άσκηση)

Ερώτηση 98: n=8 bits, Rb=512 kbps, f_s = 2B (ελάχιστη δειγματοληψία)

Rb = n · 2B
512 = 8 × 2B
B = 512/16 = 32 kHz

✅ Απ: Δ

Ερώτηση 108: n=9 bits, Rb=540 kbps, oversampling ×1.5

Rb = n · (1.5 · 2B)
540 = 9 × 1.5 × 2B
B = 540 / 27 = 20 kHz

✅ Απ: Β

Ερώτηση 117: Ίδια με 98 ✅ Απ: Δ


2.8 ADC σε Υψηλές Συχνότητες (mmWave/THz)

Τα ADC περιορίζονται τεχνολογικά σε υψηλές συχνότητες (π.χ. >100 GHz). Δεν μπορούν να δειγματοληπτούν με αρκετή ταχύτητα ή ανάλυση. Αυτό είναι πρακτικό εμπόδιο για mmWave και THz επικοινωνίες.

Ερωτήσεις: 37


3. Διαμορφώσεις (PAM/PSK/FSK/QAM)

3.1 Ρυθμός Συμβόλων

R_s = R_b / log₂(M) = R_b / k  [symbols/sec]
k = log₂(M)  (bits ανά σύμβολο)
Σχήμα k (bits/σύμβολο) R_s
2-PAM 1 R_b
4-PAM 2 R_b/2
8-PAM/FSK 3 R_b/3
16-PAM 4 R_b/4
32-PAM 5 R_b/5
Μεγαλύτερο M → μικρότερος R_s (λιγότερα σύμβολα/sec αλλά περισσότερα bits/σύμβολο). Π.χ. R_s(4-PAM) = R_b/2 > R_s(16-PAM) = R_b/4

Ερωτήσεις: 7, 33, 123


3.2 Ενέργεια Συμβόλου PAM

E_s = A²_m · E_g        (Eg = ενέργεια βασικού παλμού)

Τα σύμβολα τοποθετούνται συμμετρικά ως προς το 0: {−3a, −a, a, 3a} → εξοικονόμηση ενέργειας γιατί η μέση τιμή = 0.

Αν τα σύμβολα ήταν {1, 3, 5, 7}: μεγαλύτερη μέση τιμή → περισσότερη απαιτούμενη ισχύς.

Ερωτήσεις: 23, 32, 42


3.3 Υπολογισμός α σε 8-PAM

Ερώτηση 97: Γενική μορφή 8-PAM: {−7α, −5α, −3α, −α, α, 3α, 5α, 7α}

Μέση ισχύς = (1/8) · [(7α)² + (5α)² + (3α)² + α² + α² + (3α)² + (5α)² + (7α)²]
           = (2/8) · α² · (49 + 25 + 9 + 1)
           = (α²/4) · 84
           = 21α²

Δίνεται E_avg = 84 → 21α² = 84 → α² = 4 → α = 2
A₁ = −7·2 = −14

✅ Απ: Δ

Ερώτηση 107: Ίδια μεθοδολογία με E_avg = 336 → 21α² = 336 → α = 4 → A₁ = −7·4 = −28

Γενικός τύπος μέσης ισχύος M-PAM (σύμβολα ±a, ±3a, ..., ±(M−1)a): E_avg = a² · (M²−1)/3 Για 8-PAM: E_avg = a² · 63/3 = 21a² ✓

3.4 Σύγκριση 2-PAM vs 16-PAM (Ερ. 134)

Χαρακτηριστικό 2-PAM 16-PAM
Bits ανά σύμβολο 1 bit 4 bits
Ρυθμός συμβόλων R_b R_b/4
Απαιτούμενο BW Υψηλό Χαμηλότερο (4× μικρότερο)
Ανοχή σε θόρυβο Υψηλή Χαμηλή (πυκνά σύμβολα)
Πιθανότητα σφάλματος (ίδιο SNR) Μικρότερη Μεγαλύτερη
Πολυπλοκότητα δέκτη Χαμηλή Υψηλή
Ενεργειακή αποδοτικότητα Υψηλότερη Χαμηλότερη
Κύριο trade-off PAM: Περισσότερα bits/σύμβολο (μεγαλύτερο M) → λιγότερο BW αλλά χειρότερο BER.

3.5 PSK (Phase Shift Keying)

  • 2 διαστάσεις στο χώρο σημάτων
  • Σύμβολα πάνω σε κύκλο σταθερής ακτίνας (σταθερό πλάτος, μεταβλητή φάση)
Σχήμα bits/σύμβολο Σύμβολα
2-PSK (BPSK) 1 2 (αντίποδες)
4-PSK (QPSK) 2 4
8-PSK 3 8
32-PSK 5 32

Σύγκριση 2-PSK vs 4-PSK (Ερ. 133): Η σύγκριση γίνεται πάντα για την ίδια μέση ενέργεια ανά bit (E_b): - Στο 2-PSK (BPSK), τα 2 σύμβολα είναι αντίποδα (απέχουν γεωμετρικά 180°). - Στο 4-PSK (QPSK), τα 4 σύμβολα απέχουν γεωμετρικά 90°.

Λόγω της μεγαλύτερης γεωμετρικής απόστασης των συμβόλων (για την ίδια ενέργεια), το 2-PSK έχει μεγαλύτερη ελάχιστη απόστασημικρότερη πιθανότητα λάθους P_b.


3.6 Σύγκριση PSK vs FSK

P_b(2-PSK) = Q(√(2E_b/N₀))  <  P_b(2-FSK) = Q(√(E_b/N₀))

Ερμηνεία: Για ίδιο Eb/N₀, το 2-PSK έχει διπλάσιο argument στο Q → καλύτερο (χαμηλότερο) BER.

Άρα: 2-PSK > 2-FSK σε επίδοση (χαμηλότερο BER για ίδια ενέργεια).

Ερωτήσεις: 95, 114


3.7 FSK & Ορθογώνια Σήματα

  • Κάθε σύμβολο = ξεχωριστή βάση → N = M διαστάσεις
  • CPFSK (Continuous Phase FSK): Συνέχεια φάσης → χωρίς απότομα "κοψίματα"
  • Απαιτεί: οι συχνότητες φέρουσας να είναι πολλαπλάσιο του ρυθμού συμβόλων

3.8 Αύξηση M σε Ορθογώνια (FSK/PPM) — ΚΡΙΣΙΜΟ!

Μέτρο FSK/PPM (↑M) PAM/PSK/QAM (↑M)
Απόδοση BW ↓ Χειροτερεύει ↑ Βελτιώνεται
Απόδοση ισχύος ↑ Βελτιώνεται ↓ Χειροτερεύει
Πιθανότητα σφάλματος ↓ Μειώνεται ↑ Αυξάνεται
ΑΝΤΙΘΕΤΗ ΣΥΜΠΕΡΙΦΟΡΑ! Στα FSK/PPM αυξάνεται ο χώρος (N=M) → χώρος για τα σύμβολα → καλύτερη ισχύς. Στα PAM/PSK/QAM τα σύμβολα πυκνώνουν στον ίδιο χώρο → χειρότερη ισχύς.

Ερωτήσεις: 44, 83, 105, 119


3.9 QAM

  • 2 διαστάσεις, συνδυάζει πλάτος + φάση
  • Στόχος σχεδιασμού: Μεγιστοποίηση ελάχιστης απόστασης μεταξύ συμβόλων (για δεδομένη ενέργεια) → μέγιστη ανοχή στον θόρυβο

Ερωτήσεις: 84


4. Κανάλι & Shannon

4.1 Χωρητικότητα Καναλιού

C = W · log₂(1 + SNR) = W · log₂(1 + P/N)  [bps]
N = W · N₀  (ισχύς θορύβου AWGN)

Θεώρημα Shannon (κωδικοποίησης καναλιού): Αν R < C → υπάρχει κώδικας που επιτρέπει μετάδοση με πιθανότητα σφάλματος → 0.

Για αύξηση χωρητικότητας: ↑P ή ↑W.

Ερωτήσεις: 5, 29, 88


4.2 Χωρητικότητα Καναλιού με Άπειρο Εύρος Ζώνης (Ερ. 130)

Αν συγκρίνουμε ένα ενθόρυβο κανάλι με W → ∞ (Χωρητικότητα C₁) και ένα κανάλι μηδενικού θορύβου με πεπερασμένο W (Χωρητικότητα C₂):

  1. Στο ενθόρυβο κανάλι, όταν W → ∞, η χωρητικότητα δεν γίνεται άπειρη, αλλά τείνει στο Όριο Shannon:
C₁ = lim (W→∞) W·log₂(1 + P/WN₀) = (P/N₀)·log₂e ≈ 1.44·(P/N₀)  [Πεπερασμένη]
  1. Στο κανάλι μηδενικού θορύβου (N=0), το SNR είναι άπειρο. Άρα:
C₂ = W·log₂(1 + ∞) = ∞  [Άπειρη]

Επομένως, ισχύει C₁ < C₂. ✅ Απ: Γ


4.4 Μετάδοση Σήματος μέσω Καναλιού με Μικρότερο BW (Ερ. 136)

"Πώς μπορεί ένα σήμα εύρους W να διέλθει από κανάλι με BW < W;"

Λύση: Αυξάνουμε την ισχύ P (Shannon: C = W·log₂(1 + P/N))
Όταν P → ∞, η χωρητικότητα C → ∞ ακόμα και με μικρό W.

Βήματα:
1. Δειγματοληψία με f_s = 2W
2. Κβάντιση → παράγει ψηφιακό ρυθμό R_b
3. Επιλύουμε C = W_κανάλι · log₂(1 + P/N) ≥ R_b για P
   (N = W_κανάλι · N₀, το N₀ δίνεται)
Αυτό ισχύει ΜΟΝΟ για ψηφιακές επικοινωνίες. Σε αναλογικές, αν BW_κανάλι < W_σήματος → αναπόφευκτη παραμόρφωση.

✅ Απ Q136: Αυξάνουμε την ισχύ σύμφωνα με Shannon


4.4 Ιδανικό Κανάλι

h(t) = δ(t)  →  H(jΩ) = 1   (ιδανικό κανάλι βασικής ζώνης)
  • Αν h(t) ≠ δ(t) → διάχυση σήματος → ISI (Διασυμβολική Παρεμβολή)
  • Bandlimited κανάλι (με h(t) = sinc): Φάσμα = ορθογωνικό → ιδανικό για μηδενικό ISI

Ερωτήσεις: 47, 82, 93


4.5 Friis — Απόσβεση Ελεύθερου Χώρου

P_r = P_t · G_t · G_r · (λ/4πd)²    (πλήρης τύπος)
P_r ∝ 1/d²                            (απλοποιημένος)
  • Διπλάσια απόσταση → 4× μικρότερη ισχύς (τετράγωνος νόμος)
  • G_t, G_r = κέρδος κεραιών, λ = μήκος κύματος

Ερωτήσεις: 17, 45, 56, 120


4.6 THz Επικοινωνίες & Ατμοσφαιρική Απόσβεση

Το THz φάσμα έχει πολύ μικρή εμβέλεια λόγω: - Απορρόφηση από H₂O και O₂ στην ατμόσφαιρα - Σκέδαση από αιωρούμενα σωματίδια - Αδυναμία διαπέρασης υλικών (τοίχοι κλπ.) → Μεγάλη απώλεια path loss ανά μέτρο

Ερωτήσεις: 89


4.7 BSC (Δυαδικό Συμμετρικό Κανάλι)

C = 1 − Hb(p_error)
Κατάσταση Χωρητικότητα Γιατί
p = 0 C = 1 bit Μηδέν σφάλματα → τέλεια μετάδοση
p = 1 C = 1 bit 100% αντιστροφή → απλά αντιστρέφω!
p = 0.5 C = 0 Τυχαία bits → καμία πληροφορία
Ακόμα και p=1 (πάντα λάθος) → C=1! Γιατί αν ξέρω ότι πάντα λαθεύει, απλά αντιστρέφω κάθε bit που λαμβάνω.

Ερώτηση 76: Για ποιες τιμές p μεγιστοποιείται η χωρητικότητα; → p=0 ΚΑΙ p=1 (και οι δύο δίνουν C=1) ✅ Απ: Δ

Ερωτήσεις: 57, 76


4.8 Κανάλι με BW < BW Σήματος (Ερ. 59)

Αν BW_κανάλι < BW_σήμα → κόβονται οι συχνότητες εκτός BW → απώλεια συχνοτικού περιεχομένου → παραμόρφωση κατά την ανακατασκευή.

Ερωτήσεις: 5, 59


4.9 Ζωνοπερατά Κανάλια

Δεν περιλαμβάνουν τη μηδενική συχνότητα (f=0). Το καλύτερο ζωνοπερατό κανάλι είναι αυτό με φάσμα που μοιάζει με sinc (ελάχιστο ISI).

Ερωτήσεις: 16, 80


4.10 Λευκή Στοχαστική Διαδικασία

Καμία συσχέτιση μεταξύ τιμών → αδύνατο να προβλέψεις την επόμενη τιμή. Flat φάσμα ισχύος (ίδια ισχύς σε όλες τις συχνότητες).

Ερωτήσεις: 46


4.11 Μετατόπιση Doppler

Δf = (Δv/c) · f_c
  • Θετικό Δv (σώματα πλησιάζουν): αύξηση συχνότητας
  • Αρνητικό Δv (σώματα απομακρύνονται): μείωση συχνότητας

Ερωτήσεις: 3


4.12 Φυσική Καναλιού & Ανάκλαση

Όταν ένα κύμα ανακλάται σε επιφάνεια: - Πλάτος: Αλλάζει (απώλειες ενέργειας) - Φάση: Αλλάζει (ιδιότητες υλικού) - Συχνότητα: Παραμένει σταθερή (εκτός αν η επιφάνεια κινείται → Doppler)

Ερωτήσεις: 2


5. Nyquist & Raised Cosine

5.1 Sinc Παλμός (Ιδανικός Nyquist)

g(t) = sinc(t/T_s) = sin(πt/T_s) / (πt/T_s)
B_min = R_s / 2     (ελάχιστο BW για μηδενικό ISI)

Ιδιότητα: g(nT_s) = 0 για n≠0 → μηδενικό ISI στα δειγματοληπτικά σημεία.

Ο sinc δεν είναι υλοποιήσιμος πρακτικά — εκτείνεται από −∞ έως +∞ στον χρόνο (απαιτεί άπειρη διάρκεια).

Ερωτήσεις: 34, 43


5.2 Raised Cosine (RC)

B = (R_s / 2) · (1 + α)     [Hz]
  • α = 0: Ταυτόχρονο με sinc (B_min = Rs/2) — πρακτικά αδύνατο
  • α = 0.5: B = 0.75 · R_s
  • α = 1: B = R_s (διπλάσιο BW, ευκολότερη υλοποίηση)

Ερώτηση 35: Rs = 20 Gsymbols/s, α = 0.5

B = (20G/2) × 1.5 = 15 GHz

✅ Απ: Δ

Ερώτηση 43: Rs = 10 Gsymbols/s, sinc (α=0)

B = 10G/2 = 5 GHz

✅ Απ: Β


5.3 SRRC (Square Root Raised Cosine)

Χρησιμοποιείται σε πρακτικά συστήματα: - Πομπός: Φίλτρο √RC - Δέκτης: Φίλτρο √RC (= προσαρμοσμένο στον πομπό) - Συνολικό αποτέλεσμα: √RC × √RC = RC (ικανοποιεί τη συνθήκη Nyquist)

Ερωτήσεις: 5


5.4 Ζεύγος Χρόνου-Συχνότητας (Δυικότητα)

Ορθογωνικός παλμός (χρόνος) ↔ sinc (συχνότητα)
sinc (χρόνος)                ↔ ορθογωνικός (συχνότητα)
Χρόνος Συχνότητα
Στενός παλμός (μικρό Τ) Πλατύ φάσμα (αργή απόσβεση sinc)
Πλατύς παλμός (μεγάλο Τ) Στενό φάσμα (γρήγορη απόσβεση sinc)

Εξήγηση: Αρχή αβεβαιότητας χρόνου-συχνότητας: Δt · ΔΩ ≥ 1/2

Ερωτήσεις: 1, 36, 90


5.5 Κρουστική Απόκριση & Εύρος Ζώνης

Μεγαλύτερο BW → γρηγορότερη απόκριση (πιο γρήγορη απόσβεση h(t) στον χρόνο).

Ερώτηση 1: K1 (μεγαλύτερο BW) → κρουστική απόκριση αποσβένεται γρηγορότερα από K2.


6. Κωδικοποίηση Πηγής

6.1 Huffman — Βασικές Αρχές

L_avg = Σ pᵢ · lᵢ ≥ H(X)     (μέσο μήκος ≥ εντροπία)
  • Συχνότερα σύμβολα → κοντύτερες λέξεις κώδικα
  • Σπανιότερα σύμβολα → μακρύτερες λέξεις κώδικα
  • Βελτίωση: εφαρμογή σε εκτεταμένες πηγές (blocks πολλών χαρακτήρων) → πλησιάζει στο H(X)

Αναδιάταξη κειμένου & Huffman: - Απλή Huffman (ανά χαρακτήρα): Ο κώδικας Huffman είναι στατιστικός κώδικας χωρίς μνήμη. Η τυχαία αναδιάταξη των χαρακτήρων δεν αλλάζει τη συχνότητα εμφάνισης του κάθε γράμματος (το πλήθος των 'α', 'β' κλπ. παραμένει ίδιο). Επομένως, οι πιθανότητες είναι ίδιες, το δέντρο είναι ολόιδιο, και η συμπίεση θα είναι ακριβώς η ίδια. (Ερ. 69, 125) ✅ Απ: Α - Εκτεταμένη Huffman (bigrams/trigrams): Η αναδιάταξη αλλάζει τις πιθανότητες των συνδυασμών → χειρότερη συμπίεση (κανονικό κείμενο έχει "th", "he" κλπ.)

Ερωτήσεις: 9, 69, 125


6.2 Kraft-McMillan Ανισότητα — ΝΕΟΣ ΤΥΠΟΣ

Σᵢ 2^(−lᵢ) ≤ 1

Σημασία: - Ικανή συνθήκη για ύπαρξη προθεματικού (prefix-free) κώδικα με αυτά τα μήκη - Αναγκαία συνθήκη για μοναδικά αποκωδικοποιήσιμο κώδικα

Ιεραρχία κωδίκων:

Στιγμιαία αποκωδικοποιήσιμος ⊂ Προθεματικός (prefix-free) ⊂ Μοναδικά αποκωδικοποιήσιμος

Προθεματικός κώδικας: Καμία λέξη κώδικα ΔΕΝ αποτελεί πρόθεμα (αρχή) άλλης. - Παράδειγμα: {0, 10, 110, 111} ✓ (prefix-free) - Παράδειγμα: {0, 01, 10, 11} ✗ (0 είναι πρόθεμα του 01)

Ερωτήσεις: 40


6.3 Σύγκριση Κωδίκων (Ερ. 102)

Κριτήρια με σειρά προτεραιότητας: 1. Ελέγχω αν είναι έγκυρος (L_avg ≥ H(X)) 2. Ελέγχω αν είναι στιγμιαία αποκωδικοποιήσιμος (prefix-free) 3. Μικρότερο L_avg = μεγαλύτερη αποδοτικότητα

Ερώτηση 102: H=1.75, K1: L_avg=2.5, K2: L_avg=2.25

Αμφότεροι ≥ H(X). Ο K2 είναι prefix-free ΚΑΙ έχει μικρότερο L_avg (πιο κοντά στο 1.75)

✅ Απ: Δ (K2 καλύτερος)


6.4 Μέσο Μήκος & Shannon (Ερ. 91)

Ερώτηση 91: H = 1.64 bits/symbol → αδύνατο να αναπαρασταθεί με L_avg = 1.5 → Παραβιάζεται το κάτω φράγμα Shannon: L_avg ≥ H ✅ Απ: Γ


6.5 PCM / DPCM / ADPCM

Μέθοδος Βέλτιστη Χρήση Λόγος
PCM Βασική ψηφιοποίηση Δειγμ.→Κβαντ.→Κωδικ. (απλή)
DPCM Στατιστικά εξαρτημένα δείγματα Αργές μεταβολές (κωδικοποιεί τη διαφορά)
ADPCM Ομιλία Η ομιλία έχει μεταβαλλόμενα στατιστικά χαρακτηριστικά (μη στάσιμη), άρα απαιτεί προσαρμοστικό (adaptive) προβλεπτή και βήμα κβάντισης.
Το ADPCM είναι το καταλληλότερο για σήμα ομιλίας (Ερ. 60) λόγω των μεταβαλλόμενων στατιστικών χαρακτηριστικών.

Ερωτήσεις: 60


6.6 Ισοπίθανα Σύμβολα & Huffman

Ερώτηση 86: 8 ισοπίθανα σύμβολα (p=1/8 για καθένα)

H = log₂(8) = 3 bits/σύμβολο

→ Δεν υπάρχει τίποτα για εξοικονόμηση (όλα ισοπίθανα) → χρειάζονται ακριβώς 3 bits ✅ Απ: Δ


7. BER / SER / Θόρυβος / Κατώφλι

7.1 BER vs SER — Σχέση

BER ≤ SER ≤ k · BER   (k = log₂M = bits/σύμβολο)

Ερμηνεία: - Ένα λάθος σύμβολο ≠ 1 λάθος bit — μπορεί να είναι 1 έως k λάθη bits - BER = SER μόνο αν κάθε λάθος σύμβολο → ακριβώς 1 λάθος bit (= Gray encoding) - BER = 1 μόνο αν SER = 1 (δηλαδή κάθε σύμβολο λάθος ΚΑΙ κάθε bit λάθος)

Παραδείγματα:

0000→1111 (Natural binary, όχι Gray): SER=1, BER=4/4=1 → SER=BER
0000→0001 (Gray, 1 bit διαφορά):      SER=1, BER=1/4  → SER=4·BER (μέγιστη διαφορά)

Παραδείγματα ανά σχήμα: - 16-PAM (k=4): BER μπορεί να είναι έως 4× μικρότερο από SER → Q94 ✅ Απ: Α - 32-PSK (k=5): BER μπορεί να είναι έως 5× μικρότερο από SER → Q127 ✅ Απ: Γ

Ερωτήσεις: 4, 52, 64, 94, 127


7.2 Gray Encoding

  • Διαδοχικά σύμβολα διαφέρουν ακριβώς 1 bit
  • Σε γειτονικό σφάλμα (κοντινότερος γείτονας) → 1 λάθος bit
  • Σύμβολα τοποθετούνται στα άκρα (π.χ. για 4-PAM: −3a, −a, a, 3a → Gray: 00, 01, 11, 10)
Το Gray coding εφαρμόζεται ΜΟΝΟ σε μιαδικές αντίποδες/πολυσταθμικές διαμορφώσεις (M-PAM, M-PSK, M-QAM) όπου υπάρχουν "κοντινοί γείτονες". ΔΕΝ εφαρμόζεται σε ορθογώνιες διαμορφώσεις (M-FSK, M-PPM) διότι όλα τα σύμβολα απέχουν εξίσου μεταξύ τους → δεν υφίσταται η έννοια "κοντινότερος γείτονας".

Ερωτήσεις: 14, 52, 72


7.3 Κατώφλι Απόφασης — AWGN (μ=0)

θ* = (a + b) / 2
Ισχύει ΜΟΝΟ αν ο θόρυβος είναι συμμετρικός ως προς το 0 (μέση τιμή = 0). Η διασπορά (σ²) ΔΕΝ επηρεάζει το κατώφλι — μόνο οι θέσεις των συμβόλων μετράνε.
Ερώτηση Σύμβολα Θόρυβος θ*
11 {−1, 4} AWGN μ=0 1.5
54 {−2, 4} AWGN μ=0 1.0
74 {−4, 2} AWGN σ²=2, μ=0 −1.0 (σ² αδιάφορο!)

7.4 Κατώφλι — Μη Συμμετρικός Θόρυβος

Γενικός κανόνας (Τομή PDF): Σχεδίασε τις δύο κατανομές του θορύβου, μία με κέντρο το σύμβολο a και μία με κέντρο το σύμβολο b. Το ιδανικό κατώφλι (κριτήριο MAP/ML) είναι το σημείο που τέμνονται οι δύο κατανομές.

Ο παρακάτω τύπος μετατόπισης ισχύει ΑΥΣΤΗΡΑ ΚΑΙ ΜΟΝΟ αν ο θόρυβος έχει συμμετρική κατανομή (π.χ. ορθογώνια, ισοσκελής τριγωνική). Αν η κατανομή είναι ασύμμετρη (π.χ. εκθετική), πρέπει να βρεις την ακριβή γεωμετρική τομή!

Για συμμετρικό θόρυβο με μέση τιμή μ ≠ 0, το κάθε σύμβολο πρακτικά "μεταφέρεται" κατά μ:

Νέα αποτελεσματική θέση συμβόλων: a' = a + μ,  b' = b + μ
θ* = (a' + b') / 2 = (a + μ + b + μ) / 2 = (a + b)/2 + μ

Ερώτηση 13: {−2, 1}, θόρυβος τριγωνικός ισοσκελής με μ=1

a' = −2+1 = −1,  b' = 1+1 = 2
θ* = (−1+2)/2 = 0.5

✅ Απ: Β

Ερώτηση 31: {−2, 2}, θόρυβος τριγωνικός με μ=−1

a' = −2−1 = −3,  b' = 2−1 = 1
θ* = (−3+1)/2 = −1

✅ Απ: Α

Ερώτηση 62: {−3, 1}, θόρυβος ομοιόμορφος U[−1, 3] → μ = (−1+3)/2 = 1

a' = −3+1 = −2,  b' = 1+1 = 2
θ* = (−2+2)/2 = 0

✅ Απ: Α

Ερώτηση 128: {−2, 2}, θόρυβος ομοιόμορφος U[α,β] με μ=1

a' = −2+1 = −1,  b' = 2+1 = 3
θ* = (−1+3)/2 = 1

✅ Απ: Γ

Ερώτηση 135: {−2, +2}, θόρυβος ομοιόμορφος U[0, 4] → μ = (0+4)/2 = 2

a' = −2+2 = 0,  b' = 2+2 = 4
θ* = (0+4)/2 = 2  → "πιο μετά από το 0" (θετική μεριά)

✅ Απ: Θετικά του 0 (> 0)


7.5 Κατώφλι — BSC με Υψηλό p_error (Ερ. 38)

Ερώτηση 38: Δυαδική πηγή χωρίς μνήμη, 10 Mb/s → BSC με p=0.8.

Ο ρυθμός σωστής μεταβίβασης = C · f_s αλλά δεν γνωρίζουμε ποια σύμβολα είναι σωστά/λάθος χωρίς επιπλέον πληροφορία.

✅ Απ: Δ — "Δεν μπορεί να υπολογιστεί με ακρίβεια"


7.6 AWGN Θόρυβος

Ιδιότητα Σημασία
Additive Προστίθεται στο σήμα: y = s + n
White Flat φάσμα ισχύος — ίδια ισχύς σε όλες τις συχνότητες
Gaussian Κατανομή πλάτους = κανονική N(0, σ²)
Χωρίς μνήμη Ασυσχέτιστα δείγματα, ανεξάρτητα μεταξύ τους

7.7 Μετρική Απόδοσης ΨΤΣ

  • BER ή SER → κύρια μετρική ψηφιακών τηλεπικοινωνιών
  • Bps (Bits per second) → ρυθμός, όχι μέτρο ποιότητας
  • SNR ή Bps → μετρική αναλογικών (θέλουμε ακριβή αναπαραγωγή σήματος)

Ερωτήσεις: 14, 55


8. Χώρος Σημάτων & Διαστάσεις

8.1 Διαστάσεις ανά Σχήμα

Σχήμα Διαστάσεις N Σύμβολα M Σχέση M vs N
PAM 1 M M ≥ 1
PSK 2 M M ≥ 2
QAM 2 M M ≥ 4
FSK M M N = M
PPM M M N = M
2-PPM: 2 χρονοθυρίδες = 2 διαστάσεις. Σε κάθε M-PPM, η πληροφορία κωδικοποιείται σε M ορθογώνιες χρονοθυρίδες, άρα πάντα N=M. Επομένως, 2-PPM → N=2. 1-PSK: 1 σύμβολο, 2 βάσεις → N=2 > M=1. Σπατάλη BW!

8.2 Σχέση M ≥ N (Γενικός Κανόνας)

Γενικά: M ≥ N (σύμβολα ≥ διαστάσεις)
FSK/PPM: M = N (ειδική ισότητα)
Εξαίρεση: Μπορεί N > M (σπατάλη — π.χ. 1-PSK)

Ερωτήσεις: 25, 53, 63


8.3 Ταξινόμηση κατά Αύξουσες Διαστάσεις (Ερ. 73)

16PAM(N=1) < 2PPM(N=2) = 4PSK(N=2) = 8QAM(N=2) < 4FSK(N=4)

✅ Απ: Δ


9. Δομή ΨΤΣ — Που Πηγαίνει Τι

9.1 Αρχιτεκτονική Συστήματος

ΠΟΜΠΟΣ:
Αναλογικό → [ΚΠ] → [ΚΚ] → [ΨΔ] → Κανάλι

ΔΕΚΤΗΣ:
Κανάλι → [ΨΑΔ] → [ΑΚΚ] → [ΑΚΠ] → Αναλογικό

9.2 Αναλυτικός Πίνακας Τοποθέτησης

Στοιχείο Πομπός Δέκτης Σημείωση
Δειγματοληψία (ADC/PCM) Κωδ. Πηγής (ΚΠ) Αποκωδ. Πηγής (ΑΚΠ)
Huffman, JPEG, ZIP ΚΠ ΑΚΠ ΟΧΙ κωδ. καναλιού!
DPCM, ADPCM ΚΠ ΑΚΠ
Κώδικες διόρθωσης λαθών ΚΚ ΑΚΚ error correction
PAM, PSK, QAM Ψηφ. Διαμορφωτής (ΨΔ) Ψηφ. Αποδιαμορφωτής (ΨΑΔ)
FSK ΨΔ ΚΑΙ ΨΑΔ ΨΔ ΚΑΙ ΨΑΔ Ερ. 26: Ανήκει ΚΑΙ στις δύο πλευρές
Φωρατής (detector) ΨΑΔ
Αποδιαμορφωτής συσχέτισης ΨΑΔ
Στην Ερώτηση 26, το "FSK" ως μπλοκ πηγαίνει ΚΑΙ στους δύο (Ψ-Δ και Ψ-ΑΔ). Αντίθετα, ο "Φωρατής" ή ο "Αποδιαμορφωτής Συσχέτισης" ανήκουν αποκλειστικά στον Δέκτη (Ψ-ΑΔ).

[!WARNING] ΚΛΑΣΙΚΗ ΠΑΓΙΔΑ (Ερ. 12): Huffman/JPEG/ZIP = κωδικοποιητής ΠΗΓΗΣ (συμπίεση). ΟΧΙ καναλιού! Κωδικοποιητής καναλιού = κώδικες ανίχνευσης/διόρθωσης σφαλμάτων (π.χ. Hamming, Turbo, LDPC).

Ερωτήσεις: 12, 26, 65, 66, 110


10. Αριθμητικές Ασκήσεις — Πλήρεις Λύσεις

Τύπος 1: Εύρος Ζώνης ADC (BW ≥ nW)
Ερώτηση W n Υπολογισμός BW_min Απ
10 10 kHz 10 10×10 100 kHz Δ
41 20 kHz 20 20×20 400 kHz Δ
81 5 kHz 20 20×5 100 kHz Δ

Τύπος 2: Ρυθμός Bit → BW Σήματος (Rb = n·2B)
Ερώτηση n Rb Oversampling Υπολογισμός B Απ
98 8 512k ×1 B = 512/(8×2) 32 kHz Δ
108 9 540k ×1.5 B = 540/(9×1.5×2) 20 kHz Β
117 8 512k ×1 ίδιο με 98 32 kHz Δ

Τύπος 3: Ρυθμός Συμβόλων (Rs = Rb/log₂M)
Ερώτηση Σύγκριση Λύση Αποτέλεσμα Απ
7 4-PAM vs 16-PAM Rs(4)/Rs(16) = (Rb/2)/(Rb/4) = 2 Rs(4) > Rs(16) Δ
33 2-PAM vs 32-PAM Rs(2)/Rs(32) = Rb/(Rb/5) = 5 Rs(2) > Rs(32) Γ
123 8-FSK vs 2-FSK Rs(8)=Rb/3, Rs(2)=Rb/1 Rs(8) < Rs(2) Β

Τύπος 4: Raised Cosine BW (B = Rs·(1+α)/2)
Ερώτηση Rs α Υπολογισμός B Απ
35 20 Gsym/s 0.5 (20G/2)×1.5 15 GHz Δ
43 10 Gsym/s 0 (sinc) 10G/2 5 GHz Β

Τύπος 5: Κβαντισμός (σ²_q = Δ²/12)
Ερώτηση Xmax n Δ=Xmax/2ⁿ σ²_q=Δ²/12 Διάστημα Απ
96 160 5 5 ≈2.08 (2, 2.5) Γ
106 224 6 3.5 ≈1.02 [1, 1.5] Α
115 160 5 5 ≈2.08 (2, 2.5) Γ

Τύπος 6: Κατώφλι Απόφασης
Ερώτηση Σύμβολα Θόρυβος (μ) Νέα άκρα θ* Απ
11 {−1, 4} AWGN, μ=0 {−1, 4} 1.5 Α
13 {−2, 1} Τριγ., μ=1 {−1, 2} 0.5 Β
31 {−2, 2} Τριγ., μ=−1 {−3, 1} −1 Α
54 {−2, 4} AWGN, μ=0 {−2, 4} 1 Δ
62 {−3, 1} U[−1,3], μ=1 {−2, 2} 0 Α
74 {−4, 2} AWGN, σ²=2, μ=0 {−4, 2} −1 Δ
128 {−2, 2} U[α,β], μ=1 {−1, 3} 1 Γ
135 {−2, 2} U[0,4], μ=2 {0, 4} 2 >0

Τύπος 7: Bits Κβαντισμού (ε_max < k·A)
Ερώτηση k 2^(n+1) > n+1 > n Απ
87 0.01 100 6.64 6 Β

Τύπος 8: M-PAM Ενέργεια (E_avg = a²·(M²−1)/3)
Ερώτηση M E_avg Λύση a A₁ Απ
97 8 84 21a²=84 → a=2 2 −14 Δ
107 8 336 21a²=336 → a=4 4 −28

Τύπος 9: Πλήρες Σύστημα με Oversampling & M-PAM (Ερ. 85)
W = 5 kHz (εύρος ζώνης αναλογικού σήματος)
fs = 1.5 × 2W = 1.5 × 10 kHz = 15 kHz (oversampling ×1.5)
64 επίπεδα κβαντισμού → n = log₂(64) = 6 bits
Rb = fs × n = 15k × 6 = 90 kbps

Για 8-PAM (k = log₂8 = 3 bits/σύμβολο):
Rs = Rb / 3 = 90k / 3 = 30 ksymbols/s
BW_min (sinc) = Rs / 2 = 15 kHz

✅ Απ: Β


Τύπος 10: Εντροπία Ισοπίθανων (Ερ. 86)
8 ισοπίθανα σύμβολα: p = 1/8
H = log₂(8) = 3 bits/σύμβολο

Τύπος 11: Πλήρης Υπολογισμός BW (Ερ. 129)
B = 10 MHz (εύρος ζώνης σήματος)
fs = 2B = 20 MHz (Nyquist)
n = 12 bits → Rb = 12 × 20M = 240 Mbps
M = 32 → log₂32 = 5 bits/σύμβολο
Rs = 240M / 5 = 48 Msymbols/s
BW_min = Rs / 2 = 24 MHz

✅ Απ: Γ


Τύπος 12: Διάρκεια Συμβόλου & Θόρυβος

Όσο μεγαλύτερη η διάρκεια T_s ενός συμβόλου: - Τόσο πιο ανθεκτικό σε σύντομο burst θόρυβο (π.χ. 0.1μs ≪ T_s) → ✅ Απ Q99: Δ - Για αποφυγή ISI σε πολυδρομικά κανάλια: T_s ≫ τ_max (μέγιστη καθυστέρηση)


Τύπος 13: Αμοιβαία Πληροφορία — Επιλογή Καναλιού (Ερ. 28)
Ζητούμε max I{X,Y} = H(X) − H(X|Y) = H(X) − Hb(p_error)
→ Θέλουμε min Hb(p_error) → min p_error

H1: p=0.02 → Hb(0.02) ≈ 0.14 → I μεγάλο (ΚΑΛΥΤΕΡΟ)
H2: p=0.25 → Hb(0.25) ≈ 0.81 → I μικρό

✅ Απ: Α (Επιλέγουμε H1)


Τύπος 14: Εντροπία από Πίνακα (Ερ. 109, 111)

Ερ. 109: p = {0.125, 0.125, 0.5, 0.25} → H = 1.75 bits/sym ✅ Απ: Β

Ερ. 111: Υπολόγισε H για δεδομένο p = {p₁, p₂, p₃, ...} και βρες ποιος κώδικας έχει L_avg ≥ H.


Τύπος 15: M-PSK με sinc & Δεδομένο BW (Ερ. 75)
Rb = 16 kbps, κανάλι BW = 4 kHz, παλμός sinc
Rs_max = 2 × BW = 8 ksymbols/s  (sinc: BW = Rs/2 → Rs = 2·BW)
k = Rb / Rs = 16k / 8k = 2 bits/σύμβολο
M = 2^k = 2² = 4 → 4-PSK

✅ Απ: Α (M=4)


11. Παγίδες Εξετάσεων

Αυτά είναι τα πιο συχνά λάθη στις εξετάσεις:
# Παγίδα Σωστό
1 BER = SER ΟΧΙ! BER ≤ SER πάντα (BER=SER μόνο αν k=1 ή SER=1)
2 ↑M βελτιώνει πάντα ισχύ Μόνο σε FSK/PPM! Σε PAM/PSK/QAM χειροτερεύει
3 Κατώφλι = μέσος σημείων πάντα Μόνο αν θόρυβος συμμετρικός ως προς 0 (μ=0)!
4 sinc υλοποιήσιμος ΟΧΙ! Άπειρη χρονική διάρκεια
5 H(X|Y)=0 σημαίνει θόρυβο Σημαίνει ιδανικό κανάλι → I(X;Y) = H(X)
6 Bps = μετρική ψηφιακών Bps = αναλογικά, BER/SER = ψηφιακά
7 {1,3,5,7} εξοικονομεί ενέργεια {−3,−1,1,3} εξοικονομεί (μηδενική μέση τιμή!)
8 Ομοιόμορφος κβαντ. για Gaussian Μη ομοιόμορφος βαθμωτός
9 Η διασπορά αλλάζει κατώφλι AWGN ΟΧΙ! Μόνο η θέση συμβόλων και η μέση τιμή θορύβου
10 ADPCM για ομιλία DPCM (έχει μνήμη). ADPCM = adaptive, χωρίς σταθερή στατ. εξάρτηση
11 Huffman αλλάζει σε αναδιάταξη Ίδιες συχνότητες χαρακτήρων → ίδιο δέντρο (σε επίπεδο χαρακτήρα)
12 Huffman → κωδ. καναλιού Huffman = κωδ. ΠΗΓΗΣ (συμπίεση, δεν διορθώνει λάθη)
13 BSC με p>0.5 → άχρηστο κανάλι p=1 → C=1! Αν p=0.8 → γνωρίζω ότι σχεδόν πάντα λαθεύει → αντιστρέφω
14 Gray Coding σε M-FSK/M-PPM ΔΕΝ εφαρμόζεται (ορθογώνια σήματα, χωρίς "κοντινότερο γείτονα")
15 H(nX) < n·H(X) πάντα Ισχύει μόνο για πηγές με μνήμη. Χωρίς μνήμη: H(nX) = n·H(X)
16 Κατανομή θορύβου κβαντισμού = Gaussian ΟΜΟΙΟΜΟΡΦΗ U[−Δ/2, Δ/2]
17 BW=R_s για sinc BW = R_s/2 (το sinc είναι το πιο αποδοτικό)
18 sinc κανάλι → h(t)=δ(t) Βασικής ζώνης ιδανικό: h(t)=δ(t). Bandlimited (sinc φάσμα): h(t)=sinc
19 Εκθετική κατανομή → διανυσματικός Βαθμωτός μη-ομοιόμορφος (ανεξάρτητα δείγματα!)
20 BSC χωρητικότητα μεγιστοποιείται για p=0 Και για p=0 ΚΑΙ p=1 (C=1 και στις δύο)