匈奴对晋阳志在必得，在多次挫败后，发动十几万大军将晋阳围得水泄不通。而晋阳城内士兵不足，粮草匮乏，更不可能有援兵前来相助。在匈奴连续几天的进攻下，刘琨虽然组织军民拼死抵抗，但是毕竟兵力悬殊，晋阳城已是危在旦夕，恐怕不久之后就会被匈奴攻破。
这天夜里，匈奴暂停了攻城，刘琨站在城头上，看着城外的匈奴大营，心中苦思退敌之策。根据他这几天的观察，发现匈奴大军虽然人多势众，但是士气并不高昂，战斗力也不强，他推测这些士兵应该是被临时征召来的，必然有着强烈的思乡情绪。想到这里，无计可施的刘琨忽然产生了一个看起来很天真的想法。
刘琨连夜在城中征集能够吹奏胡笳的人，并且很快就找到了几个，让他们在城楼上吹奏一些表达思念家乡、思念亲人的曲子。胡笳是古代北方民族的一种乐器，形似笛子，也是匈奴人最喜爱的乐器，声音非常哀婉动人。
