文字組みアキ量は段落の設定なので、検索された文字を含む段落に設定されます。そのため置換形式に段落スタイルを設定するのが普通のやり方だとは思うのですが。

それはさておき、以下のコードでは何の問題も発生しません。「おれの文字組み」という文字組みアキ量設定に変更されます。
app.findGrepPreferences.findWhat="さがす";
app.changeGrepPreferences.changeTo="かえる";
app.changeGrepPreferences.mojikumi="おれの文字組み";
app.changeGrep();

検索文字列が段落をまたがってる（改行を含んでいる）とか、長すぎるとかの別の要因があるのかもしれません。とりあえず上記のサンプルで試してみてください。

お～まち様。有難うございます。

ご提示いただいたサンプルでも同じ結果となりました。
スクリプトを走らせた直後にIndesignの検索画面を開くと、
置換形式は【文字組：】になっており、カスタム設定を渡せていない感じです。


現在はご指摘の通り、段落スタイルを置き換え形式に設定しているのですが、
最終的にIndesignデータを返却する必要があり「スタイルを必要以上に増やさないでほしい」
というリクエストを受けたので、文字組みアキ量のみの変更にしたかった次第で...。

またchangeTextにしても同じ結果でした

変ですね。わたしの環境で大丈夫で、どんぶりさんの環境でできないとなると。
まずInDesignに最新のパッチがあたってるかどうか確認してください。CS3の最新は5.0.4です。
次に考えられるとすれば文字組アキ量設定の名称です。Shift-JISでは表現できない文字とかで引っかかってる可能性があります。
それ以外の原因はちょっと思い当たりません。初期設定を捨ててみるとか、ドキュメントの再構築とか、InDesignの再インストールとかの一般的なトラブルシューティングですかねえ。
なお、私の環境はWindows7 SP1なので、Mac固有の何かがあるのでしたら、私にはお手上げです。

横から失礼いたします。

お～まちさん＞
ご提示いただいたソースで
WindowsXP SP3 InDesignCS3(5.0.4)の環境で実行してみました。
やはり、どんぶりさんの仰るとおり、
置換形式は【文字組：】になっておりました。



どんぶりさん＞
アプリケーションデフォルトに文字組設定が居ないのが
原因ではないかと推測されます。

VBAから同じことをしてみましたが、結果は変わらず。。。


思い当たる節があったので、試しに、
アプリケーションデフォルトの文字組アキ量設定に
"おれの文字組み"を追加してから当該ドキュメントを開いて、
スクリプトを実行したら、置換形式に正しく設定されました。

解決の糸口となれば、幸いです。

同じ段落スタイル内に複数の文字組アキ量設定を適用したいということですよね。

きちんと返却先にアナウンスしないと、元に戻される可能性があるし、
「スタイルを必要以上に増やさないでほしい」がどのくらいの必要以上なのかもきちんと聞かないと
変なトラブルを引き起こしそうな気がします。

流星さまのアドバイス通り、アプリケーションデフォルトに
文字組設定を登録？すれば希望通りの置き換えができました。

アプリケーションデフォルトとは全くの盲点でした。

お～まち様共々、有難うございました。
おかげでスッキリと日曜日を迎えられそうです。

＞流星さん
なるほど。そういうことだったのですね。勉強になりました。

どんぶりさん＞

解決したようで良かったです。

補足になりますが、
アプリケーションデフォルトに存在しない
スウォッチを設定するときも失敗したと記憶しています。
（どこかに情報出てたかもしれませんが）

過去に、私自身この問題を回避するため、アプリケーションデフォルトに
スクリプト側からスウォッチを登録して、実行させるコードを
書いたことがあったので、今回の課題も同様ではないかと
試してみたという次第でした。


お～まちさん＞
毎度、お世話になっております。
今回も[InDesign Object Model]を活用させていただきました。
改めて、ありがたい事だなぁと感謝しております。