A1.
実際にどうなるかはやってみないと判らないですが、ブックシェルフ型にするならスピーカースタンドとかインシュレーターを適切に使用すればそれなりに良い音になると思います。
A2.
PCオーディオならハイレゾとアシンクロナス受信対応は必須と思うので、少し予算オーバーしますが無難な機種となるとFOSTEX HP-A4し思い浮かびません。
ハイレゾを捨てるならHalide Designの「devilsound DAC」がお勧めですけど、個人輸入になります。
http://www.halidedesign.com/ja/dsdac/もうひとつ別の考え方としては、R-K1000-Nに光デジタル入力端子があるということは、R-K1000-Nの中にDACが入っているということですので、PCのUSB端子から出てくるデジタル信号を何らかの方法で光デジタル出力に変換すれば、別途に新しいUSB-DACを買わなくても良いということになります。
ONKYOのND-S10がそういう仕事をする機械でして、ND-S10は音質向上のためになかなか良い仕事をしてくれますが、これもハイレゾには対応していません。
A3.
SE-300PCIEからはアナログで繋いで、TVからは光デジタルってことですよね。
正しい方法ですよ。
Mac mini ⇒ HP-A4 ⇒ R-K1000-N
とした時は、HP-A4とR-K1000-Nはアナログ接続と光デジタル接続のどっちでもいけます。
おそらくアナログで接続したほうが良い音になるように思いますし、引き続きTVも繋ぐ予定ならアナログで繋ぐしかないですけど。