RGBは加法混色、CMYKは減法混色。
モニタで見る色と、印刷で見る色は異なり、同じ色を出すことはできません。
この違いをどうエミュレートするかが、DTPの鍵なので、いろいろ調べてみました。

有名な変換式
RGB→CMYK

  C=(1-R-K)/(1-K)
  M=(1-G-K)/(1-K)
  Y=(1-B-K)/(1-K)
  K=min(1-R,1-G,1-B)

CMYK→RGB

  R=1-min(1,C*(1-K)+K)
  G=1-min(1,M*(1-K)+K)
  B=1-min(1,Y*(1-K)+K)

これらの式はいわゆる論理式に近く、実際に使用できるほどの精度はない。
RGBとCMYの最小値～最大値を変換しているだけで、色の再現性は無視されている。
そこで、DPのソフトウェアでは、独自の式を用いている場合が多いが、イラストレーターの場合はバージョンで式が異なる。そこで、いったいどうなっているのか調べてみたので、記録しておく。

イラストレータ7の場合

赤を変換してみる。
C:M:Y:K=0:100:100:0
↓
R:G:B=255:0:0
↓
C:M:Y:K=1.17:96.55:91.8:0
↓
R:G:B=250:13:10
↓
C:M:Y:K=2.34:94.92:91.02:0.39
↓
この後はどんどんずれていき、
R:G:B=236:22:11
C:M:Y:K=6.25:91.41:92.97:0.78
前後で安定する。
どのような式で変換されているのかまったくの不明である。

イラストレータCS3の場合

C:M:Y:K=0:100:100:0
↓
R:G:B=204:34:41
↓
C:M:Y:K=0:100:100:0
↓
R:G:B=204:34:41
と、CS3では可逆変換になっている。
ちなみにRGBから変換すると、
R:G:B=255:0:0
↓
C:M:Y:K=0:96.08:89.8:0
↓
R:G:B=255:0:0
こちらも可逆らしい。
イラレ7とは異なる式が用いられているのは明らか。

Photoshop7の場合

C:M:Y:K=0:100:100:0
↓
R:G:B=237:28:36
↓
C:M:Y:K=0:100:100:0
こちらも可逆変換のよう。
RGBから変換すると、
R:G:B=255:0:0
↓
C:M:Y:K=0:99:100:0
↓
R:G:B=255:0:0
こちらも可逆変換と思われる。
しかし、CS3とはRGBが異なり、異なる式が用いられているらしい。

GIMP2.6の場合

  C=1-(R/255)
  M=1-(G/255)
  Y=1-(B/255)

但し
C=M=Yの場合に限り

  K=C
  C=M=Y=0

となる。

結論としては、CMYKを基準にして、ディスプレイでは適当なRGBを選択しておき、EPSなどにするときは内部でテーブルを用意して置き換えるのがよさそうです。