Automatorに、AppleScriptへ処理を投げられる機能があるはず

それで選択範囲の文字列を取得したあと、
簡単な処理ならAppleScript内でやればいいし、
正規表現を使った複雑な文字列処理なら、
シェルスクリプトやRuby、Pythonなんかに投げて、
あれこれ加工する感じかね

で、加工済みの文字列を選択範囲に戻す、という流れ