私もまったく同じ環境なのですが、
古い人間なので（？）
その二つのフォントは使わないようにしています。
細かい説明はできないのですが
リュウミンLは昔、印刷所でもトラブルが
多かったと聞くので…。（どなたか補足お願いします）
なのでその二つに似た書体を使うようにしています。
ダイナの平成ゴシックの細い(M3とか5）とか
やはり平成明朝のM3とかで代用しています。

お力になれなくてごめんなさい。

> Mac os9.1でATM Deluxe4.6なんですが、
> 中ゴとリュウミンLがモニター上ではギザギザで表示されて、
> アウトラインもとれません。

フォントタイプ（CID、OCF、OTF）や特定のアプリだけの症状なのか、などによってかわりますが、以下はどうですか？

フォントフォルダに「リュウミンライト(TrueType)」「細明朝体」「中ゴシック体」「等幅」がありませんか？　あればすべて外してください。